M4 Pro Mac Mini 本地模型配置
来自 Hacker News · 期号 2026-09-02
摘要
本地跑模型，硬件选型是关键。作者用 M4 Pro Mac Mini（24 核 CPU、20 核 GPU、64GB 统一内存），搭配 Ollama 管理模型、Open WebUI 做前端。 实际跑下来，7B 模型（如 Llama 3）可以流畅运行，生成速度约 50 token/s；70B 模型（如 Llama 3.1）也能跑，但速度降到 5-10 token/s，且 64GB 内存是门槛。 评论区补充了其他方案：有人用 Mac Studio（M2 Ultra）跑 70B 模型更从容，也有人指出 Linux 台式机配双 3090 在性价比上更有优势。