7B、14B、70B 是什么意思，我的显卡能跑哪个
你在 Ollama 或 Hugging Face 上看到一个模型，名字里带个 B：Qwen 7B、Llama 14B、DeepSeek 70B。第一反应通常是”B 越大越聪明”，然后开始纠结——我的显卡到底能跑哪个？
先说结论：B 只是参数量，它决定不了你的显卡能不能跑。能跑不能跑，取决于这些参数在显存里占多少字节。
B 是什么：十亿参数，仅此而已
B 是 Billion 的缩写，10 亿。7B = 70 亿个参数，70B = 700 亿个。参数可以粗糙地理解为模型”脑子里的连接权重”，数量越大，通常记住的模式越多、推理越复杂——这是”越大越聪明”这句话唯一的正确部分。
但它不决定你能不能用。决定能用的是三个更实在的东西：显存容量（装不装得下）、内存带宽（每秒吐多少 token）、量化（每个参数用几个字节存）。
一张表：先按显存反推
估显存最实用的办法：参数量 × 每参数字节数 ≈ 权重占用。常见格式：FP16 约 2 字节，INT8 约 1 字节，Q4（4-bit 量化）约 0.5 字节。所以 70B 模型 Q4 量化后权重约 35GB——这就是为什么 24GB 的显卡放不下 70B，却装得下 Q4 的 32B。
上面只是权重，运行时还要给 KV cache（上下文越长越大）和中间计算留空间。以下按 Q4 量化给一张粗略档位表，是估算不是精确值，具体以模型页标注的文件大小为准：
| 显存 | Q4 大约能跑 | 实际体感 |
|---|---|---|
| 8 GB | 7B/8B 流畅，14B 很勉强 | 轻量问答、翻译、摘要够用 |
| 16 GB | 14B 流畅，32B 勉强（上下文得短） | 日常使用舒适区 |
| 24 GB | 32B 流畅，70B 放不下 | 复杂任务的分水岭 |
| 48 GB 以上 | 70B 可跑 | 接近云端小模型的体验 |
动手估一遍：看到一个模型，去它的下载页找 Q4 版本的文件大小（Ollama 的模型页会直接标），那个数字就是权重占用的底线。加 2–4GB 给 KV cache 和开销，对比你的显存，答案立刻出来——不用看任何”这张卡能跑多大模型”的玄学表格。
两个比参数更该懂的变量
量化是”省着存”，有代价。 同一模型 Q8 比 Q4 质量略好、体积大一倍；Q4 对大多数日常任务损失几乎不可感知，但对代码生成、长文推理这类任务，量化损失可能真的让你感觉到”变笨了”。所以判断标准不是”能不能塞进显存”，而是”塞进去之后还够不够用”。
带宽决定”跑得快不快”。 模型推理每吐一个 token 基本要把权重从头读一遍，所以速度约等于带宽除以模型大小。带宽 1000 GB/s 的显卡跑 4GB 的 7B 模型，理论上一秒能吐两百多 token；同一个 7B 放在带宽只有几十 GB/s 的普通内存上，会慢到想放弃。这就是为什么 Mac 的统一内存能跑大模型——它带宽高，比同容量普通内存实用得多。
所以：我到底该跑哪个
别按”越大越好”选，按”任务需要多强的脑子”选：
- 聊天、翻译、摘要、改写：7B/8B 就够，图的是快和省电。
- 中文长文写作、结构化输出：14B 起步，Q4 下 8–9GB，多数 16GB 显卡的甜点位。
- 代码生成、复杂推理、Agent 式任务：尽量上 32B——但要有心理准备，这个档位本地模型的体验仍明显不如云端的大模型 API。
一句话反直觉结论：本地跑模型的正确理由从来不是”比云端强”，而是隐私、离线、无限调用不心疼钱。 如果你的核心诉求是”拿它写代码写得更稳”，先别折腾显存，把预算花在把云端 agent 用明白上更划算。
最后给一条省钱路径：不确定该不该上大模型时，先跑 7B 的 Q4——安装几分钟，跑两天真实任务，你就知道自己到底缺的是”脑子”还是”习惯”。
下一步
- 想知道量化到底怎么影响质量、KV cache 怎么算：等你真上手后，Ollama 的模型库和 LM Studio 是现成工具，模型页会直接标各量化档的文件大小，先学会读那个数字。
- 想把它当编程 agent 用、但还没把云端工具用明白：建议先读《Claude Code 上手指南》或《把 Codex 用成队友》，本地的复杂推理体验够不够用，用完之后你自己会有答案。
- 本地模型跑的上下文同样受上下文窗口约束——显存省下来了，窗口管理一点没省。
上面的显存档位、量化体积和带宽数字都是数量级估算，会随量化格式、上下文长度和工具版本变化。决定买卡或下模型前，以模型页实际标注的文件大小为准。