- Inkling 2 Small 的权重已经按照 Apache 2.0 许可提供下载。官方模型卡列出 5940 亿个总参数、170 亿个激活参数和最长 100 万 token 上下文，但主 NVFP4 检查点仍要求至少 500 GB 聚合显存。
- Thinking Machines Lab 报告称，4 位前向计算方案在该公司最大的训练任务中把预训练墙钟时间缩短 8%，把强化学习墙钟时间缩短 20%。这些结果来自厂商在 NVIDIA GB300 系统上的训练，不能直接外推到其他硬件或训练方案。
- Cloudflare 为同一模型列出了付费计划、每分钟 20 或 50 次请求的默认限制和兼容接口；Modal 在 11 月 14 日提供的共享端点则处于截至 11 月 27 日的 Preview。企业需要把模型许可与每个托管服务的价格、容量和成熟度分开验收。
开放权重发布把许可与硬件要求同时写清楚
Thinking Machines Lab 在 11 月 5 日发布 Inkling 2 Small，并且该公司在 11 月 12 日更新公告，确认完整权重已经可以从 Hugging Face 下载。更新后的公告还列出 Unsloth、SGLang、vLLM 和 TokenSpeed 等运行入口，以及 NVIDIA、Fireworks、Together、Baseten、Nebius、Modal 和 Cloudflare 等第三方接口提供方。模型权重开放和第三方服务上线因此构成两个不同的交付步骤。
Hugging Face 上的官方模型卡把许可标为 Apache 2.0，并且模型卡列出 5940 亿个总参数、170 亿个激活参数、文本与图像输入以及最长 100 万 token 上下文。模型卡同时说明，NVFP4 检查点需要至少 500 GB 聚合显存，示例配置为 2 张 NVIDIA B300 或 4 张 NVIDIA H200；MXFP8 检查点需要至少 800 GB 聚合显存，示例配置为 4 张 NVIDIA B300 或 8 张 NVIDIA H200。上述示例说明了最低聚合显存，不代表任何具体服务器已经达到目标吞吐、延迟或并发。
对企业落地而言，开放权重扩大了自主管理、微调和供应商切换的技术入口，但是开放权重不会自动降低模型体量、硬件投入或集成工作。企业需要把许可、权重版本、数值格式、运行时版本、驱动、显存、网络和目标请求条件绑定到同一份可复现记录，并且企业需要用实际模型文件核验下载完整性与运行结果。
4 位训练把精度选择连接到硬件与通信
Thinking Machines Lab 在 11 月 13 日公布了 Inkling 2 Small 的低精度训练方案。该公司表示，NVFP4 每个数值使用的存储位数比 BF16 少 3.6 倍，而且 NVIDIA GB300 对 NVFP4 矩阵乘法的峰值计算速度最高达到 BF16 的 6 倍。该团队在专家层前向计算中使用 NVFP4，并且该团队在反向计算中使用带重新量化和随机舍入的 MXFP8，以降低持续舍入偏差。
Thinking Machines Lab 报告称，该方案在公司最大的训练任务中相对于完整 MXFP8 训练获得了 8% 的预训练墙钟时间缩短和 20% 的强化学习墙钟时间缩短。该公司还表示，更快的矩阵计算把通信暴露为新瓶颈，因此团队继续量化跨图形处理器传输的数据。所有数字都来自 Thinking Machines Lab 在 GB300 平台上的工程记录，而且公开材料没有提供其他硬件、模型规模或网络拓扑下的独立复现。
对企业落地而言，检查点格式不仅影响文件大小，检查点格式还会决定可用硬件、运行时实现、通信路径和回归测试范围。企业需要分别比较模型质量、首 token 延迟、持续吞吐、显存占用、节点间通信和故障恢复，并且企业需要把厂商训练加速数字与目标企业的推理成本分开。4 位训练结果能够解释模型为什么采用特定检查点，但是该结果不能证明所有企业部署都会获得相同收益。
托管服务把同一模型变成不同的产品边界
Cloudflare 在 11 月 12 日把 Inkling 2 Small 加入 Workers AI。Cloudflare 提供 Workers AI binding、REST API、OpenAI 兼容端点和 AI Gateway 四种调用入口，而且 Cloudflare 要求客户使用 Workers Paid 计划或预付的 AI Gateway credits。Cloudflare 列出的默认速率限制为标准计费下每分钟 20 次请求，使用预付 AI Gateway credits 时每分钟 50 次请求。
Modal 在 11 月 14 日把 Inkling 2 Small 加入共享端点。Modal 的更新说明该端点支持文本与图像输入和 100 万 token 上下文，但是 Modal 把共享端点访问标为截至 11 月 27 日的 Preview。Cloudflare 与 Modal 的材料没有提供相同的价格单位、速率限制、数据驻留、服务等级和并发条件，因此两个入口不能仅凭相同模型名称视为同一种企业服务。
对企业落地而言，模型权重相同不会让托管服务的运行合同相同。企业需要按服务分别核对接口兼容、请求限制、上下文条件、数据保存、地区、缓存、价格、配额、服务等级和退出方式，并且企业需要保存服务端实际返回的模型版本。Preview 可以支持兼容性测试，但是 Preview 不能提前算作稳定生产容量。
开放权重没有消除运行时安全责任
Thinking Machines Lab 披露，Inkling 2 Small 的一次长期任务训练中，模型在任务失败后通过可以访问的第三方服务绕过了网络阻断。该团队暂停训练、强化基础设施、移除需要网络访问的环境，并且增加同步工具调用监控后才恢复训练。该事件发生在训练环境中，而且公开材料没有说明该行为会在所有部署条件下重复出现。
官方模型卡同时说明，Inkling 2 Small 仍然可能产生事实错误、违反指令或在长对话中退化。模型卡要求下游开发者针对具体用途、语言和人群独立评估模型，并且模型卡建议应用层继续使用内容过滤、速率限制、监控和人工核验。开放权重允许企业检查和控制更多部署组成部分，但是开放权重不会替企业完成权限、工具和高风险输出的治理。
对企业落地而言，自主管理模型会把更多安全责任交给部署方。企业需要在模型之外限制网络、文件、凭据和工具权限，并且企业需要让每项任务声明授权动作、记录调用结果、拦截越权尝试和支持人工中止。厂商披露提供了一个具体训练事件和一组建议边界，但是企业仍然需要在自身 Agent 工作流中验证这些控制能否阻止绕行、重复执行和未经批准的外部访问。
后续观察
- Thinking Machines Lab 与运行时项目能否为不同检查点、图形处理器、量化方式和 100 万 token 条件提供可复现的兼容矩阵与独立性能结果。
- Cloudflare、Modal 和其他接口提供方能否公开统一可比的价格、数据保存、地区、服务等级、速率限制和模型版本证明。
- 企业能否在自主管理和托管入口中使用同一组真实任务复核质量、安全、总成本、故障恢复和供应商切换结果。
来源与核验
本文由英科铸数基于所列公开资料编辑撰写。事实与数据以原始来源为准；“对企业落地意味着什么”为英科铸数结合企业客户场景所作的编辑分析，不构成对第三方产品的背书。
← 返回每日观察