GPUFits

显卡库 / Mac Studio M5 Ultra (512GB)

Mac Studio M5 Ultra (512GB) 跑本地 LLM:能跑什么模型、速度多快

Mac Studio M5 Ultra 512GB(2026 年 10 月 28 日开售)是苹果单机内存的天花板:512GB 统一内存、1.2TB/s 带宽,按 75% 折算可用约 384GB。价格不温柔:512GB 内存需绑定高配芯片(36 核 CPU/80 核 GPU,$6,799 起)再加 $15,500 升级费,最低 $22,299;512GB+16TB 顶配 $29,799。容量意义上一台顶五台 96GB Ultra:GLM-5.3-Flash Q4(约 199GB)、Qwen3.8-Flash-Next Q8(约 194GB)、gpt-oss-120b Q8(约 126GB)全部宽裕,连 DeepSeek-R1 的 Q3_K_M(约 337GB)都能勉强装下。

但它仍装不下本站最大的模型:Muse Spark Open Q4_K_M 约 503GB,单机不可行、双机(可用约 768GB)才宽裕——这正是 Meta 官方演示的双 Studio MLX 方案(实测约 16-25 tok/s)。选型逻辑:工作集 ≤72GB 选 96GB 版($5,499)即可;85-192GB 考虑 256GB 版;192-380GB(GLM-5.3-Flash Q6_K/Q8、R1 Q3 档)才是 512GB 的领地;超出 384GB 可用的一切需求,下一步不是更大的单机,而是 Thunderbolt 5 双机池化。内存焊死不可后升级,买前定档。tdpW 为整机估算值。

规格

标称显存512 GB
可用显存(模型可用)384.0 GB
显存带宽1200 GB/s
类型统一内存
发布年份2026
MSRP$22,299
TDP140 W

Apple 统一内存按 75% 折算为模型可用显存(其余供系统/显示)。

性价比指标

每美元带宽
0.05 GB/s/$
每美元可用显存
0.017 GB/$

按 MSRP(暂无二手价) 计算;二手价为市场参考价【估】,波动见评述。

模型判定矩阵(Q4_K_M @8K)

模型 显存需求 判定 推荐量化 理论速度
Llama 3.2 3B 4.4 GB 宽裕 FP16 ≈140 tok/s 试算 →
Llama 3.1 8B 7.5 GB 宽裕 FP16 ≈56 tok/s 试算 →
Qwen3 8B 7.7 GB 宽裕 FP16 ≈55 tok/s 试算 →
Phi-4 14B 12.2 GB 宽裕 FP16 ≈31 tok/s 试算 →
Mistral Small 3.2 24B 17.5 GB 宽裕 FP16 ≈19 tok/s 试算 →
Gemma 3 27B 22.4 GB 宽裕 FP16 ≈16 tok/s 试算 →
Qwen3.8 27B 20.7 GB 宽裕 FP16 ≈16 tok/s 试算 →
Muse Glimmer 30B 20.1 GB 宽裕 FP16 ≈15 tok/s 试算 →
Qwen3 30B-A3B 21.0 GB 宽裕 FP16 ≈136 tok/s 试算 →
Qwen3 32B 23.7 GB 宽裕 FP16 ≈14 tok/s 试算 →
gpt-oss-20b 14.7 GB 宽裕 FP16 ≈125 tok/s 试算 →
Llama 3.3 70B 47.4 GB 宽裕 FP16 ≈6 tok/s 试算 →
gpt-oss-120b 73.6 GB 宽裕 FP16 ≈88 tok/s 试算 →
Qwen3.8 Flash-Next 112.6 GB 宽裕 FP16 ≈75 tok/s 试算 →
GLM-5.3-Flash 198.7 GB 宽裕 Q8_0 ≈47 tok/s 试算 →
DeepSeek-R1 671B 413.1 GB 需要多卡 Q3_K_M ≈49 tok/s 试算 →
Muse Spark Open 816B 503.4 GB 本地不可行 Q2_K ≈54 tok/s 试算 →

理论速度 = 带宽 × 0.75 ÷ 每 token 权重字节(MoE 按激活参数),实际受框架/驱动/CPU 影响,误差 ±30%。

常见问题

Mac Studio M5 Ultra 512GB 能跑什么模型?
可用约 384GB:本站 17 个模型中除 Muse Spark Open(Q4 约 503GB)外全部能装——GLM-5.3-Flash Q4(约 199GB)宽裕、DeepSeek-R1 Q3_K_M(约 337GB)勉强、Qwen3.8-Flash-Next Q8 宽裕。Muse Spark Open 单机需 Q2_K 级(约 327GB,勉强)或双机 MLX。
512GB 版最低多少钱?
$22,299:高配芯片机型 $6,799 + 512GB 内存升级 $15,500(含 1TB 存储);512GB+16TB 顶配 $29,799(Apple Store 2026-10-28 口径)。
512GB 单机还是两台小内存 Studio?
两台 96GB Ultra 约 $11K、可用仅约 144GB,容量完全不同级;两台 256GB 可用约 384GB、更便宜但多一套集群损耗与运维。要单机简单性与无损耗 1.2TB/s 选 512GB 单机;要摊薄成本且接受 Thunderbolt 集群开销选双机。

相关指南

在显卡兼容性查询工具中试算 Mac Studio M5 Ultra (512GB) →

数据核实于 2026-11-01