高通将于 9 月 22 日在其年度 Snapdragon 峰会上推出 Snapdragon 8 Elite Gen 6 SoC 以及 Snapdragon 8 Elite Gen 6 Pro。
在那次活动之前，今天该公司正在预告对其中一款芯片的 Hexagon NPU 所做的改进（大概我们正在谈论 Snapdragon 8 Elite Gen 6 Pro 的 Hexagon NPU）。
这是为代理 AI 构建的，具有以 Transformer 为中心的元素加速器和更大 50% 的共享内存，“将频繁访问的模型数据保持在 NPU 附近”，以便代理“在处理更长的上下文、更多工具和并发任务时可以保持响应”。因此，您可以期待内存瓶颈的减少和“更快、响应更灵敏的代理人工智能体验”。
Element Accelerator 是“专为支持现代生成和代理人工智能的变压器工作负载而构建的”，与标量、矢量和矩阵扩展一起，它可以加速对大型模型最重要的操作，帮助代理更快地响应，更有效地推理，并“在不影响移动电源效率的情况下提供更丰富的体验”。
高通还表示，新的 NPU 对 INT4 模型的预填充速度提高了 50%，并且非常适合混合专家 (MoE) 模型，该模型仅激活每个令牌的一小部分参数。新的 Hexagon NPU 是“专为始终运行的人工智能、长上下文推理、多模式模型、并发代理和低延迟动作循环而设计的”。
