PG关注到,高通11月2日披露了第一代HBC芯片的硬件验证结果。工程团队已在圣迭戈实验室跑通完整的存储读写路径,并验证近存计算能力。这项进展让相关架构从设计思路向实际产品又迈近了一步。

这条消息背后的问题很具体:当AI模型不断生成内容,计算单元需要持续拿到模型数据。如果数据供应跟不上,增加计算能力也未必能让整套系统按同样幅度提速。高通正在尝试缩短数据与计算之间的距离,从存储环节寻找效率空间。

PG芯片与存储模块测试工作台,近存计算相关硬件测试场景
PG · 芯片与存储模块的测试场景

推理系统为什么会遇到“等数据”的问题

大语言模型处理一次请求,包含不同类型的计算。接收提示词时,系统要完成较多可并行的运算;进入持续生成内容的阶段后,又要反复读取模型参数和上下文。不同阶段对算力、存储带宽和响应时间的要求并不相同。

高通在今年7月介绍HBC时,把数据搬运视为推理基础设施的重要开销。数据在存储与处理器之间传输,需要接口、封装和相应的能耗。对于受带宽限制的任务,单纯提高处理器的理论算力,仍可能留下等待数据的空档。

HBC采用近存计算思路,把适合的计算任务安排到更靠近数据的位置。主加速器继续处理复杂、灵活的工作,存储附近的计算逻辑承担部分数据密集任务。两者通过分工减少不必要的往返传输,而非让一个部件包办所有工作。

芯片验证之后,还要解决制造与集成问题

此次硬件测试使用了随机权重和激活数据,覆盖接近产品目标尺寸的数据通路。这比展示单一概念更接近工程落地:读写过程和计算过程需要在真实芯片上配合运行,后续平台才有继续集成的基础。

高通披露的工作也涉及堆叠、键合、缺陷处理和可靠性验证。对于这类结构,能够运行只是一个环节,生产中如何保持一致性、如何识别并处理存储缺陷,同样影响技术能否走向稳定供货。

PG服务器内存模块安装与平台测试,AI推理系统硬件集成场景
PG · 服务器内存模块安装与平台测试

HBC、HBM与SRAM,需要放到具体任务里比较

高带宽并不意味着只有一种实现路线。HBM通过堆叠存储提供容量与带宽,数据仍需经过存储和处理器之间的接口;片上SRAM距离计算单元近、访问延迟低,但单颗芯片的容量也有边界。HBC则在存储附近增加计算能力,重点改变部分任务的数据流动方式。

高通在7月的架构比较中,也区分了不同方案的适用负载。低批量、强调低延迟的前馈网络任务,与需要处理长上下文的注意力计算,面对的约束并不一样。片上存储在一些场景中仍有竞争力,HBM也能覆盖较广的工作类型。

因此,判断平台表现,需要先说明比较条件。模型规模、上下文长度、批量大小和延迟目标发生变化,测试结果也可能变化。把其中一个指标抽出来,难以说明用户在实际部署中能够获得多少收益。

AI250送样之后,系统表现将成为下一步看点

按照高通公布的安排,Dragonfly AI250将整合HBC技术,预计于2027年上半年送样。接下来需要观察的,是完整平台在具体模型、不同负载与系统配置下的表现,而不仅是芯片层面的验证进度。

对使用者来说,技术路线最终要对应到实际服务能力:在既定响应时间内能够处理多少请求,并发提高后是否仍然稳定,以及实现这些能力需要多少功耗和硬件投入。把这些条件放在一起,才能理解一次带宽改进对整套系统意味着什么。

这也是PG跟进此次进展时更关注产品节奏的原因。HBC已经提供了实际芯片验证的依据,后续还需要通过平台测试补上部署层面的信息。等到AI250按计划进入送样阶段,这条近存计算路线能带来多少实际收益,将有更具体的检验条件。