M1 Max에서 Qwen 27B 로컬 실행: 32GB·64GB 메모리 조건과 속도 판단법
M1 Max Qwen 27B 로컬 실행을 검토할 때 참고할 64GB의 양자화 실측과 32GB의 시험 조건을 정리합니다. 모델 파일 크기와 실행 메모리의 차이, 첫 토큰 대기 시간, 입력 길이별 측정 순서를 설명합니다.
· 4분
태그
태그
M1 Max Qwen 27B 로컬 실행을 검토할 때 참고할 64GB의 양자화 실측과 32GB의 시험 조건을 정리합니다. 모델 파일 크기와 실행 메모리의 차이, 첫 토큰 대기 시간, 입력 길이별 측정 순서를 설명합니다.
· 4분