Qualcomm introduserer sin Snapdragon 8 Elite Gen 6 SoC så vel som Snapdragon 8 Elite Gen 6 Proat sin årlige Snapdragon Summiton 22. september.
I forkant av den begivenheten, erter selskapet i dag forbedringene det er gjort på en av brikkenes Hexagon NPU (antagelig snakker vi om Hexagon NPU til Snapdragon 8 Elite Gen 6 Pro).
Dette er bygget for agent AI, med en transformator-fokusert Element Accelerator og et 50 % større delt minne som "holder ofte tilgang til modelldata nær NPU" slik at agenter "kan holde seg responsive mens de sjonglerer med lengre kontekst, flere verktøy og samtidige oppgaver". Så du kan forvente reduserte minneflaskehalser og "raskere, mer responsive agent AI-opplevelser".
Element Accelerator er "formålsbygd for transformatorarbeidsbelastningene som driver moderne generativ og agent AI", og sammen med skalar-, vektor- og matriseutvidelsene akselererer den operasjonene som betyr mest for store modeller, og hjelper agenter med å reagere raskere, samt resonnere mer effektivt og "levere rikere opplevelser uten å gå på akkord med mobil strømeffektivitet".
Qualcomm sier også at den nye NPU-en har opptil 50 % raskere prefill for INT4-modeller, og den er veldig godt egnet for Mixture-of-Experts (MoE)-modeller som bare aktiverer en brøkdel av parameterne sine per token. Den nye Hexagon NPU er "designet for alltid løpende AI, langkontekstresonnement, multimodale modeller, samtidige agenter og handlingsløkker med lav latens".
