显卡、CPU、内存与存储的选购与实测,含本地大模型推理算力对比与硬件行情。
32G 版 5090 两个月涨 1.9 万。按三年折旧加电费算,自建月摊 1778 元;AutoDL 同款租 2.78 元每时。7×24 跑满自建 2106、租 2002,交点 765 小时比一天 24 小时还多。
DRAM 颗粒成本三个月涨约三成,终端内存条却涨了两三倍,中间差价落在谁手里?拆开 HBM 挤占产能的机制、模组厂 59% 的营收增幅和渠道加价,再分别给装机、本地推理、小服务器三类人算账。
显存决定本地大模型能不能跑。本文把权重、KV 缓存、运行时开销三笔账算清,给出 12/16/24/32GB 四条显存线各自能装下什么模型,再对一遍 2026 年 10 月的显卡、内存、固态报价——这轮由 AI 引起的涨价,正好砸在本地推理成本最重的三个品类上。