Nemotron 3.5 Bolt 74B 是英伟达 2026 年 10 月 15 日发布的开源大语言模型，740 亿参数、每个 token 只激活约 90 亿，用 2 比特量化压进 24GB 显存，专门给本地智能体使用。
它属于 Nemotron 3.5 系列，思路不是把模型做小，而是把大参数模型塞进单张消费级显卡的内存预算。混合专家（MoE）结构让每次生成只调用约 90 亿参数，速度接近中等规模的稠密模型，知识量却来自完整的 740 亿参数。
关键在于 2 比特量化感知训练。常见做法是先训完再压缩，压到 2 比特时推理能力掉得厉害；这个模型在训练阶段就按低精度权重来学，官方说法是比常见稠密模型快、比同内存占用的 MoE 模型更聪明。公告里没有给基准分数，真实水平要等第三方测试。
和只放权重的那类开源模型不同，它把训练数据、权重和训练配方一起公开，研究者可以复现也能审计。要做垂直定制或商用改造的团队，可以直接在自己的数据上微调。
发布当天就能在 llama.cpp、vLLM、Ollama、Unsloth 和 LM Studio 里拉起来，也可以被 Hermes、OpenClaw 这类智能体直接调用。个人用户做本地部署最省事的是 Ollama 或 LM Studio，模型和推理引擎一起装好，不用自己配环境。
要装在服务器上跑长任务，llama.cpp 和 vLLM 更合适，前者轻量、后者吞吐高。做原生应用集成就按官方仓库给的推理配方接，量化格式和上下文长度都能自己调。
英伟达同期还放出了两块拼图：Switchyard 是开源的模型路由库，让智能体把简单问题交给本地模型、难题转给云端模型，尽量少花钱；PAIR 是个人 AI 路由器，正式版免费开源，能把局域网内几台电脑的算力串起来用，支持 Windows、Linux 和 macOS。
硬件要求集中在显存上：24GB 装下全部权重，剩下的空间留给上下文缓存。按 74B 参数、每权重 2 比特算，光权重就约 18.5GB，所以 24GB 是刚够跑起来的下限，不算宽裕的配置。
官方主推的载体是 RTX Spark 笔记本，10 月 16 日开卖，最高 128GB 统一内存、1 petaflop AI 算力，首次开机有引导页帮你选智能体应用并配好模型和参数。它只是推荐配置，任何满足显存要求的机器都能跑这个模型。
安全方面这套方案把智能体放进沙箱运行，靠 NVIDIA OpenShell 和微软的 MXC 做隔离，官方说 OpenClaw 和 GitHub Copilot 已经支持 MXC，Hermes Agent 会在月底补上更细的权限控制。
适合想在本地跑智能体、又不想把数据交给云端的开发者和团队。长驻的本地 agent 要在自己机器上反复调工具、存记忆，本地模型省掉按量计费的顾虑，敏感数据也不用出内网。
预算有限的个人同样能用，24GB 显存档位对应高端消费级显卡和一批 AI 笔记本，不必堆多卡。同期还有一个更小的 Nemotron 3.5 Bolt E4B 版本，4GB 档位，10 月 23 日放出，定位是游戏内 AI 角色这类端侧场景。
模型本身免费，训练数据、权重和训练配方全部公开，谁都能下载和微调。要花钱的是硬件和电费，以及自愿接入云端模型的那部分；纯本地跑只消耗自己的显卡，没有按 token 计费的账单。商用前建议核对一次许可条款。
能，靠的是 2 比特量化。74B 参数按每权重 2 比特算约 18.5GB，24GB 留出几 GB 给缓存和运行时。代价是精度损失，英伟达用训练阶段就适配低精度权重的方式把它压下去，实际表现仍要等独立测试。
不是。模型面向 24GB 显存档位设计，任何满足这个条件的显卡或统一内存设备都能跑，Ollama、LM Studio 这些工具也不绑定英伟达硬件。RTX Spark 只是官方主推的组合，装了会有一键配置的便利。
可以，它发布时就在对接名单里，Hermes 和 OpenClaw 都能直接选它当本地模型。配上 Switchyard 之后，智能体会自动判断哪些请求留在本机、哪些转给云端，常见做法是简单任务放本地省钱，难题交给云端。 文中参数、支持工具与发布时间以英伟达 2026 年 10 月官方公告为准，第三方测试结果可能调整。
我用AniShort做故事动画时，踩过最大的坑，是以为每段都重复角色描述就能固定外形：结果发型、衣服甚至脸型都会变。更稳的做...
2026-10-11PixTV有手机版吗，答案是没有独立手机客户端，但手机浏览器可以直接用：PixTV 是网页端产品，用手机自带浏览器打开官网就能登...
2026-10-14
即梦AI的配音功能支持10多种语言，包括中文、英文、日语、韩语、西班牙语、阿拉伯语、泰语、印尼语等，但在中文方言方面的支...
2026-10-07
这是最容易被误解的一点。很多人在DevDay之后以为dots是OpenAI新发布的一个独立App，需要单独下载安装。事实不是这样。dots是...
2026-10-01STEPX Neo 先行版是一款定位独特的AI智能体手机，它由大模型公司阶跃星辰（StepFun）旗下的终端品牌STEPX推出，整机由华勤技...
2026-10-14