クアルコムは、9 月 22 日に毎年恒例の Snapdragon Summitton で、Snapdragon 8 Elite Gen 6 SoC と Snapdragon 8 Elite Gen 6 Proat を発表します。
そのイベントに先立ち、同社は今日、チップのヘキサゴンNPUの1つに加えられた改善をからかっている（おそらく、Snapdragon 8 Elite Gen 6 ProのヘキサゴンNPUについて話しているのでしょう）。
これはエージェント AI 用に構築されており、トランスフォーマーに重点を置いた Element Accelerator と 50% 拡大された共有メモリを備えており、「頻繁にアクセスされるモデル データを NPU の近くに保持」するため、エージェントは「より長いコンテキスト、より多くのツール、および同時タスクをやりくりしながらも応答性を維持できます」。そのため、メモリのボトルネックが軽減され、「より高速で応答性の高いエージェント AI エクスペリエンス」が期待できます。
Element Accelerator は「最新の生成 AI およびエージェント AI を強化するトランスフォーマー ワークロード専用に構築され」ており、スカラー、ベクトル、および行列の拡張機能と合わせて、大規模モデルにとって最も重要な操作を高速化し、エージェントがより迅速に応答するだけでなく、より効率的に推論し、「モバイルの電力効率を損なうことなく、より豊かなエクスペリエンスを提供する」ことを支援します。
クアルコムはまた、新しい NPU は INT4 モデルのプリフィルが最大 50% 高速であり、トークンごとにパラメータの一部のみをアクティブにする Mixture-of-Experts (MoE) モデルに非常に適していると述べています。新しい Hexagon NPU は、「常時実行される AI、ロングコンテキスト推論、マルチモーダル モデル、同時エージェント、および低遅延アクション ループ向けに設計されています」。
