显存决定本地大模型能不能跑。本文把权重、KV 缓存、运行时开销三笔账算清，给出 12/16/24/32GB 四条显存线各自能装下什么模型，再对一遍 2026 年 10 月的显卡、内存、固态报价——这轮由 AI 引起的涨价，正好砸在本地推理成本最重的三个品类上。
2026-10-02