Mac에서 DeepSeek 실행하기: 전체 모델과 양자화 모델의 메모리 요구 사항 및 권장 기기
요즘 Apple Silicon의 성능이 워낙 좋아지다 보니, macOS에서도 강력한 AI 모델을 실행하는 게 현실적으로 가능해졌어요. 특히 DeepSeek 같은 머신러닝 모델은 다양한 AI 애플리케이션에서 활용되면서 점점 더 주목받고 있죠. 그런데 문제는… 메모리! 🧠
DeepSeek 모델의 크기가 커질수록 엄청난 연산 능력과 메모리를 필요로 하기 때문에, Mac에서 제대로 실행하려면 적절한 하드웨어가 필수예요. 오늘은 DeepSeek 전체 모델과 양자화 모델이 각각 어느 정도의 메모리를 필요로 하는지, 그리고 어떤 Mac이 적합한지 상세히 알아볼게요. 🚀
DeepSeek 전체 모델과 메모리 요구 사항 🏗️
DeepSeek의 전체 모델(Full Model)은 수십억 개의 매개변수를 처리해야 하기 때문에 상당한 메모리가 필요해요. 특히 100B(1000억) 이상의 매개변수를 가진 모델은 일반적인 MacBook으로는 실행이 불가능하고, 고사양 Mac이 필수입니다.
아래 표를 보면, 모델 크기에 따라 얼마나 많은 메모리가 필요한지 알 수 있어요. 또한, 원활한 실행을 위해 추천되는 Mac 기기도 함께 정리했어요.👇
| 모델 이름 | 파라미터 수(B) | 메모리 (FP16) | 추천 Mac 제품 |
|---|---|---|---|
| DeepSeek-LLM 7B | 7 | 16 GB | MacBook Air (M3, 24GB RAM) |
| DeepSeek-LLM 67B | 67 | 154 GB | Mac Studio (M2 Ultra, 128GB RAM) x2 |
| DeepSeek V2 16B | 16 | 37 GB | Mac Studio (M2 Max, 96GB RAM) |
| DeepSeek V2 236B | 236 | 543 GB | Mac Studio (M2 Ultra, 192GB RAM) x4 |
| DeepSeek V2.5 236B | 236 | 543 GB | Mac Studio (M2 Ultra, 192GB RAM) x4 |
| DeepSeek V3 671B | 671 | 1,543 GB | Mac Studio (M2 Ultra, 192GB RAM) x10 |
| DeepSeek-R1-Zero | 671 | 1,543 GB | Mac Studio (M2 Ultra, 192GB RAM) x10 |
| DeepSeek-R1 | 671 | 1,543 GB | Mac Studio (M2 Ultra, 192GB RAM) x10 |
| DeepSeek-R1-Distill-Qwen-1.5B | 1.5 | 3.9 GB | MacBook Air (M1, 8GB RAM) |
| DeepSeek-R1-Distill-Qwen-7B | 7 | 18 GB | MacBook Air (M3, 24GB RAM) |
| DeepSeek-R1-Distill-Llama-8B | 8 | 21 GB | MacBook Pro (M2, 32GB RAM) |
| DeepSeek-R1-Distill-Qwen-14B | 14 | 36 GB | MacBook Pro (M4 Pro, 48GB RAM) |
| DeepSeek-R1-Distill-Qwen-32B | 32 | 82 GB | MacBook Pro (M3 Max, 128GB RAM) |
| DeepSeek-R1-Distill-Llama-70B | 70 | 181 GB | Mac Studio (M2 Ultra, 192GB RAM) |
⚠️ 주의할 점! 이 표는 Mac에서 다른 작업이 실행되지 않는다는 전제하에 작성된 거예요. 최소 요구 사항만 맞춘다고 해서 최고의 성능이 보장되는 건 아니라는 점! 🤯 메모리가 간신히 맞는 경우에는 배치 크기(batch size) 같은 매개변수를 조정해야 할 수도 있어요.
양자화된 DeepSeek 모델: 더 가벼운 실행 옵션 🔬
양자화(Quantization)는 모델의 정밀도를 낮추는 대신 메모리 사용량을 줄이는 기법이에요. 4-bit 양자화를 적용하면 메모리 요구량이 대폭 줄어들어서, 더 보급형 Mac에서도 실행할 수 있어요! ✨
아래 표를 보면 4-bit 양자화가 적용된 모델들의 메모리 요구량과 권장 기기를 확인할 수 있어요.👇
| 모델 이름 | 파라미터 수(B) | 메모리 (4-bit) | 추천 Mac 제품 |
|---|---|---|---|
| DeepSeek-LLM 7B | 7 | 4 GB | MacBook Air (M2, 8GB RAM) |
| DeepSeek-LLM 67B | 67 | 38 GB | MacBook Pro (M4 Pro, 48GB RAM) |
| DeepSeek V2 16B | 16 | 9 GB | MacBook Air (M1, 16GB RAM) |
| DeepSeek V2 236B | 236 | 136 GB | Mac Studio (M2 Ultra, 192GB RAM) |
| DeepSeek V3 671B | 671 | 386 GB | Mac Studio (M2 Ultra, 192GB RAM) x3 |
| DeepSeek-R1-Zero | 671 | 436 GB | Mac Studio (M2 Ultra, 192GB RAM) x4 |
| DeepSeek-R1 | 671 | 436 GB | Mac Studio (M2 Ultra, 192GB RAM) x4 |
| DeepSeek-R1-Distill-Qwen-1.5B | 1.5 | 1 GB | MacBook Air (M1, 8GB RAM) |
| DeepSeek-R1-Distill-Qwen-7B | 7 | 4.5 GB | MacBook Air (M1, 8GB RAM) |
| DeepSeek-R1-Distill-Llama-8B | 8 | 5 GB | MacBook Air (M1, 16GB RAM) |
| DeepSeek-R1-Distill-Qwen-14B | 14 | 9 GB | MacBook Air (M1, 16GB RAM) |
| DeepSeek-R1-Distill-Qwen-32B | 32 | 21 GB | MacBook Pro (M2, 32GB RAM) |
| DeepSeek-R1-Distill-Llama-70B | 70 | 46 GB | MacBook Pro (M1 Max, 64GB RAM) |
Mac에서 DeepSeek 실행을 위한 추천 기기 💻
1️⃣ MacBook Air (M2, 16GB–24GB RAM) → 7B 이하의 양자화 모델 실행 가능
2️⃣ MacBook Pro (M2 Max, 64GB RAM) → 중급 모델 및 일부 소형 전체 모델 실행 가능
3️⃣ Mac Studio (M2 Ultra, 192GB RAM) → 대규모 전체 모델 실행 가능 (분산 설정 권장)
4️⃣ Mac Pro (향후 출시 가능성) → 초대형 모델을 위한 옵션이 될 가능성 있음
만약 집에서 Deepseek R1을 작동시키려면 어느정도의 컴퓨터 스펙이 필요할까?
글 마무리 🎯
적절한 하드웨어를 갖춘다면 macOS에서도 DeepSeek 모델을 실행할 수 있어요!
하지만 모델 크기에 따라 요구되는 메모리가 엄청 다르기 때문에, 본인의 Mac 사양과 모델 크기를 신중하게 맞춰야 해요. 양자화 모델을 활용하면 비교적 가벼운 사양에서도 실행할 수 있으니 참고하세요! 😉
