劝人「自己攒一台跑大模型」的理由一直很顺：不按 token 付费，数据不出门，一张 24GB 的旧卡就能把 32B 模型整个装进显存。这些理由今天依然成立，只是它们都压在一个没说出口的前提上——硬件价格是往下走的。
2026 年把这个前提拿掉了。显卡从 8 月起走出一轮罕见的普涨，中国大陆国庆前一天的报价单上，RTX 5080 是 12499 元、5070 Ti 是 9394 元、5060 Ti 16GB 是 5399 元，连两千元档的 RTX 5050 和 Intel B580 都刷新了历史最高价。内存起步更早、涨得更凶，双通道 16GB DDR5 已经站上 2600 元。固态硬盘跟在后面。
要命的是，这三样恰好是本地跑模型这套配置里最贵的部分；而今年基本没怎么动的散热器、机箱、电源，在跑模型的场景里全是配角。同一轮涨价，砸在「跑模型」这台机器上的力道，比砸在游戏主机上更重。这篇文章只回答一件事：在 2026 年 10 月的价格下，本地跑一个大模型，显存这条线怎么算，钱要花到哪一档。
显存决定能不能跑，算的是权重、KV 缓存加运行时开销三笔
玩游戏看帧率，显卡越快越好；跑模型只看一件事——装不装得下。模型的权重张量必须整个待在显存里，装不下就只能把一部分层卸载到系统内存，而系统内存走 PCIe，带宽跟显存差着数量级，出字速度会掉到没法日常使用的程度。
所以第一件事是把加法算对。
权重这一项有现成的经验值。全精度 FP16 大约是每 10 亿参数 2GB，量化到 8 位减一半，量化到 4 位再减一半，也就是原体积的四分之一左右。美国国立卫生研究院的高性能计算文档给了一张可以直接当基准的对照：7~8B 模型全精度要 14~16GB，4 位量化后落到 6~8GB；13~14B 从 26~28GB 降到 12~16GB；70B 从 140GB 以上降到 35~40GB。
KV 缓存是第二笔，也是最容易被漏算的一笔。上下文窗口填得越满，模型为每个 token 存的注意力状态就越多，它同时跟参数量和上下文长度成正比。粗算的话，每 10 亿参数在 8K 上下文下大约占 0.12GB；把 KV 缓存本身也压到 8 位，这个数还能再砍一半。对做长文档摘要的人来说，真正顶满显存的往往不是权重，而是这一项。
第三笔是运行时和桌面。推理进程自己要留 1.5GB 上下，显卡同时还得驱动你的桌面，Windows 上先吃掉 1~2GB。有人把模型塞进 12GB 的卡之后发现刚好爆显存，差的通常就是这 2GB。
合起来，一条够用的粗算是：参数量（十亿）乘以每参数字节数，加上 KV 缓存，再加 1.5GB 到 3GB 的余量。
12GB、16GB、24GB、32GB 四条线，各自停在哪一档
把这条公式套到几款 2026 年还在被大量下载的模型上，四条常见显存线会分出很清楚的层次。
| 显存 | 4 位量化能整卡装下的 | 再往上会撞到什么 |
|---|---|---|
| 12GB | 8B 级别，权重约 5GB | 14B 只够短上下文；20B 级的混合专家模型装不进去 |
| 16GB | 14B 级别，权重约 9GB | 20B 级混合专家模型能塞下，长上下文仍然吃紧 |
| 24GB | 32B 级，权重约 19GB | 70B 只能部分卸载，出字速度掉到个位数 |
| 32GB | 32B 全量化加长上下文 | 70B 的低比特量化勉强进得去，质量损失看得出来 |
容量只是门槛，出字速度决定这东西是「能用」还是「能跑」。公开的 llama.cpp 测试里有一组很直观的数字：同样跑 Qwen3 8B，RTX 3060 12GB 是 55 tok/s，4060 Ti 16GB 是 46，5060 Ti 16GB 是 69，3090 24GB 到 115。换成 Qwen3 14B，四张卡分别落到 31、27、41、70。
这里有个容易被当成测试出错的排序——3060 竟然比 4060 Ti 快。它其实说清了本地推理最核心的一条规律：出字速度由显存带宽决定，既不是核心数量，也不是算力。RTX 3060 的显存位宽是 192-bit，带宽反而高过 128-bit 的 4060 Ti。所以挑卡只看「多少 GB」是不够的，同样容量的卡，代差和位宽能把速度拉开一倍。
卸载到内存这条退路，今年被 DDR5 的价格堵死了
显存不够时，几乎所有本地推理教程都会给同一条退路：把一部分层卸载到系统内存，速度慢一点，但模型能跑起来。这条退路有个隐含前提——内存便宜。「买 128GB 内存跑 70B」在几年前是句正经建议。
2026 年这句话说不通了。
TrendForce 在 9 月 30 日的报告里把原因讲得很直白：原厂把先进制程产能优先给了服务器和高带宽内存，消费端的产能被持续挤出。具体到数字，2026 年第四季度一般型 DRAM 合约价还要环比涨 10%~15%，NAND 闪存涨 15%~20%；其中企业级固态因为 AI 推理侧的需求，涨幅反而在扩大，达到 23%~28%。
合约价不等于零售价，但终端一定会跟。今年的链条已经完整走过一遍：第一季度一般型 DRAM 合约价环比涨幅超过 90%，第三季度才收敛到 13%~18%。落到零售端，就是 DDR5 现货均价来到 18.37 美元/GB 并连续七个月环比上涨，32GB 的 DDR5 套装从 900 元涨到 3800 元，64GB 套装在美国已经超过 800 美元。
于是这条退路上出现了一个很别扭的局面：为了省一张显卡的钱去加内存，结果发现加内存的钱够买半张卡了。而卸载本身的代价还在——被放到内存里的层，出字速度会掉 5 到 10 倍，一个一半在显存、一半在内存的 70B 模型，慢到没法日常用。
按 2026 年 10 月的行情，四档配置分别要花多少钱
先看卡。中国大陆 9 月底到 10 月 1 日的报价里，RTX 5060 Ti 16GB 是 5399 元，RTX 5070 Ti 是 9394 元，RTX 5080 是 12499 元，AMD 的 RX 9060 XT 16GB 是 3454 元。美国市场更能看出这两个月发生了什么：RTX 5070 的挂牌中位价从 6 月的 659.99 美元走到 8 月的 899.99 美元，两个月涨 36%，比 549 美元的首发价高出 64%；RTX 5060 Ti 16GB 涨 39%，RTX 5060 涨 27%。
内存和固态按同样口径配齐之后，账就变得很难看。32GB 的 DDR5 套装 3800 元、1TB 固态 950 元，一台以 16GB 显卡为核心、能跑 14B 模型的机器，光显卡、内存、固态三样就要一万元出头，CPU、主板、电源、机箱还没算进去。社区里那句「今年装机比去年同期多花一倍的钱」，就是从这种差距里来的。
四档拉平看：12GB 档要跑 8B 模型，靠一张入门卡还能撑住，是这轮涨价里唯一还算克制的一档；16GB 档要跑 14B，整机已经过万；24GB 档想跑 32B，新卡价格劝退，二手 3090 成了主路，而二手同样在涨；再往上的 32GB 单卡已经进入五千美元区间，想碰 70B 还得双卡。
还想继续走本地，剩下三条路各自都带着代价
第一条是买二手。RTX 3090 的 24GB 一直是本地推理的性价比答案，但这条路今年不再安全——「新卡发布、旧卡跳水」的前提正在瓦解。英伟达下一代游戏卡被爆料人指到 2028 年，官方一个字的确认都没有；而 50 系的价格从上市到现在没有回落过，二手成交价跟着往上走。等，今年是收费的。
第二条是转向统一内存的 Mac。M 系列芯片的统一内存可以整块当显存用，64GB 的机器能装下 Windows 这边要双卡才装得下的模型，功耗和噪音也低得多。代价是内存带宽和独立显卡不在一个量级，长上下文下出字速度明显偏慢，而且这条路的成本同样没降。
第三条其实最现实：先用云端。按量计费只有在你长时间跑满时才追得平一台机器的钱，而各家还在持续放免费额度——本站此前把主要几家的免费额度逐条核过一遍（免费 AI 额度核查：GitHub Models 已经下线，那个「每天一万四千次」是误传），也做了一个把自家用量代进去算的工具（免费 AI 额度够不够用：把你的实际用量代进去算一遍），够不够用是可以先量化、再决定买不买卡的。
先把显存算清楚，再决定要不要买卡
本地推理的成本结构和游戏主机不一样，它的大头全部压在存储相关的那几个品类上，而这一轮涨价的起源，恰恰是 AI 数据中心把这些品类的产能抽走了。这意味着，短期内看不到这块成本拐头向下的理由。
TrendForce 的判断是供给紧张会延续到 2027 年，到 2028 年新产能释放，供需关系才有望实质性缓解。在那之前，更合理的选择顺序是：能靠量化把想用的模型压进现有显卡，就先不换卡；能在云端把账算清，就先不装机；确实要买，盯住显存容量和显存带宽两个参数，别只看型号。（硬件侧的最新行情可以对照 硬件雷达（9.28–9.30）：迷你主机集体上 192GB 内存，存储又要涨一档。）
一、一手信息
- TrendForce：AI Server Demand Sustains Memory Contract Price Increases in 4Q26, While Consumer-Side Pressure Persists（2026-09-30 官方新闻稿）
- TrendForce：4Q26 Memory Price Forecast（存储价格展望研究摘要）
- 美国国立卫生研究院高性能计算中心：Ollama 使用说明与量化显存对照表
- NVIDIA：GeForce RTX 5090 产品规格页
二、媒体报道
- 环球网（腾讯网）：机构预计 2026 年第四季度 DRAM 和 NAND 合约价将至少上涨 10%/15%
- 新浪科技（快科技）：PC 部件全面涨价冲击，2026 年最大装机升级竟是个坐垫
- 什么值得买：显卡全线冲上两年新高，连 B580、RTX5050 都破了历史最高价
- 什么值得买：国庆 8 天假第 1 天，「RTX60 推迟到 2028」和「50 系全线历史新高」同屏刷屏
- 什么值得买：双 11 前一周，给英伟达显卡结账前先把这三本账对完
- BottleneckPC：Prime Big Deal Days 2026 PC Parts Worth Buying（引 Tom’s Hardware 对 Newegg 挂牌中位价的追踪）
- SpecPicks：Is 12GB VRAM Still Enough for Local LLMs?（含 llama.cpp 实测出字速度）
- VRAMCalculator：Local LLM VRAM Requirements 2026（逐模型显存需求对照）
三、其他
- 本文配图来自 Pexels 免费图库（Pexels License，允许商用），摄影：zeleboba
- 中国大陆显卡逐日报价出自社区「显卡日报」追踪，9 月 29 日至 10 月 1 日汇总见上方「什么值得买」条目
原创声明：本文由 618A 情报站整理撰写，基于公开信息与实测记录，转载请注明出处并保留原文链接。