显卡库:本地 LLM 硬件总览
每张显卡的详情页包含规格、LLM 推理视角的评述、性价比指标(每美元带宽/每美元显存),以及对 14 个主流模型在 Q4_K_M @8K 下的判定矩阵与理论速度。二手价优先,无二手价时用 MSRP。
| 显卡 | 显存 | 带宽 | 参考价 | 每美元带宽 |
|---|---|---|---|---|
| H100 80GB | 80 GB | 3350 GB/s | $30,000 | 0.11 |
| A100 80GB | 80 GB | 2039 GB/s | $15,000 | 0.14 |
| RTX 5090 | 32 GB | 1792 GB/s | $1,999 | 0.90 |
| RTX 4090 | 24 GB | 1008 GB/s | $2,400较上月 +118% | 0.42 |
| RX 7900 XTX | 24 GB | 960 GB/s | $650 | 1.48 |
| RTX 3090 | 24 GB | 936 GB/s | $1,100较上月 +10% | 0.85 |
| Mac Studio M3 Ultra (96GB) | 96 GB* | 819 GB/s | $5,299 | 0.15 |
| RTX A6000 | 48 GB | 768 GB/s | $2,800 | 0.27 |
| RTX 4070 Ti Super | 16 GB | 672 GB/s | $760较上月 +38% | 0.88 |
| Mac Studio M4 Max (64GB) | 64 GB* | 546 GB/s | $2,899 | 0.19 |
| RTX 3060 12GB | 12 GB | 360 GB/s | $260较上月 +44% | 1.38 |
| Mac mini M4 Pro (48GB) | 48 GB* | 273 GB/s | $1,799 | 0.15 |
Apple 统一内存按 75% 折算为模型可用显存(其余供系统/显示)。
数据核实于 2026-09-01