文章目录
- 英特尔 8 月 24 日展示 350W、最高 480GB 内存的数据中心推理卡,以及集成最高 17 TOPS NPU 的客户端与边缘 SoC。
- 高通 8 月 20 日介绍的 Dragonwing AI On-Prem Appliance 采用紧凑型 150W 形态,厂商称其支持最高 120B 模型、多用户推理与 RAG,并通过多家硬件伙伴提供方案。
- 小米在 8 月 24 日展示 AI Cube Prototype;8 月 25 日的补充披露显示,原型机配备 80GB 统一内存,标称持续性能释放为 150W,并支持 120B 与 3B 模型本地部署,但尚无售价与上市时间。
机房与边缘层:一套架构同时覆盖 350W 推理卡和边缘 SoC
英特尔 8 月 24 日在 Hot Chips 2026 同时介绍三种面向 Agent 与企业负载的架构。Crescent Island 被描述为面向推理的数据中心 GPU,采用 350W 风冷 PCIe 卡形态,最高支持 480GB LPDDR5X 内存;Wildcat Lake 则面向主流客户端和智能边缘平台,集成最高 17 TOPS 的 NPU,并采用 2 个性能核与 4 个能效核。Diamond Rapids 被定位为企业级 Agentic AI 的可扩展计算基础和高性能编排处理器。
这组发布覆盖数据中心扩展卡、客户端与边缘 SoC,而不是宣布单一设备完成所有任务。英特尔材料以架构展示和下一代产品定位为主,没有提供可复现的 Agent 基准、价格与完整供货时间;其中的吞吐、并发和能效收益仍属于待独立验证的厂商目标。
模型部署向小型设备下沉,更可能改变任务放置方式,而不是消除数据中心。敏感数据、低时延交互和断网运行可以落在本地节点,长上下文、高并发或复杂推理仍可能由更大算力层承接。对企业 Agent 而言,系统差异更可能体现在跨层路由、权限与审计,以及知识图谱或本体上下文能否在不同运行位置保持一致,而不是只比较单个设备的峰值参数。
一体机层:同为 150W,产品状态比共同数字更重要
高通在 8 月 20 日发布的边缘 AI 介绍中称,Dragonwing AI On-Prem Appliance 基于 Cloud AI 100 Ultra 加速器,在紧凑型 150W 系统中提供最高 870 TOPS,并支持最高 120B 参数的大型视觉与语言模型、多用户推理与 RAG 工作负载。官方材料称该方案可由 Aetina、研华和 Lanner 等硬件合作伙伴提供。
高通披露的是厂商规格和适配范围,并非同一条件下的独立横向测试。其材料没有给出可与 AI Cube 对齐的模型、精度、上下文、批量和并发配置;两者虽然都出现“150W”和“120B”,却不能据此认定性能、能效或软件成熟度相同。
紧凑型本地设备的企业价值不只来自机身体积,还来自完整的软件与交付边界。与仅用于展示的原型相比,合作伙伴与集成形态可能缩短从评估到部署的距离;操作系统与驱动维护、模型目录、多租户隔离、可观测性和服务周期,则会影响设备能否作为共享推理资源运行。相同的功耗和模型参数数字,只能作为形态信号,不能替代按真实工作负载进行的可靠性与成本核验。
桌面原型层:AI Cube 展示 120B 与 3B 的本地组合
小米在 8 月 24 日的玄戒芯片技术沟通会上展示 AI Cube Prototype 工程版迷你主机。IT之家现场报道显示,设备组合玄戒 O3、O100 与 D100 三颗芯片,标称持续性能释放为 150W,并支持 120B 与 3B 模型在本地部署及快慢系统切换。8 月 25 日披露的补充信息显示,原型机配备 80GB 统一内存。
目前公开信息仍停留在原型与演示层。小米尚未公布上市时间和售价,公开材料也没有说明 120B 模型的具体名称、数值精度、上下文长度、并发设置或实测吞吐,因此不能从参数规模直接推导响应速度、输出质量或可持续负载能力。
这一原型说明,大参数模型的本地运行正在进入桌面设备的设计空间,统一内存、近存带宽与散热上限可能成为与芯片算力并列的关键约束。但原型能够完成演示,并不等于企业已经获得可采购、可维护的私有部署节点;驱动与模型兼容性、远程管理、权限隔离、长期供货和故障恢复,都会影响其能否进入正式环境。
后续观察
- 小米是否公布 AI Cube 的量产计划、售价、最终内存配置、模型精度、软件栈,以及 120B 工作负载的可复现吞吐与持续功耗。
- 高通合作伙伴设备与英特尔新架构在相同模型、上下文和并发条件下的独立性能、能效、稳定性及总拥有成本测试。
- 跨机房、桌面一体机和边缘节点的 Agent 路由,是否能够同时保留企业权限、审计记录与统一的知识或本体语义。
来源与核验
本文由英科铸数基于所列公开资料编辑撰写。事实与数据以原始来源为准;“对企业落地意味着什么”为英科铸数结合企业客户场景所作的编辑分析,不构成对第三方产品的背书。
← 返回每日观察