A Qualcomm está apresentando seu SoC Snapdragon 8 Elite Gen 6, bem como o Snapdragon 8 Elite Gen 6 Pro em seu Snapdragon Summit anual em 22 de setembro.
Antes desse evento, hoje a empresa está divulgando as melhorias feitas em um dos NPU Hexagon dos chips (presumivelmente estamos falando sobre o NPU Hexagon do Snapdragon 8 Elite Gen 6 Pro).
Isso foi desenvolvido para IA de agência, com um Element Accelerator focado em transformador e uma memória compartilhada 50% maior que "mantém os dados do modelo acessados com frequência próximos ao NPU" para que os agentes "possam permanecer responsivos enquanto lidam com contexto mais longo, mais ferramentas e tarefas simultâneas". Portanto, você pode esperar gargalos de memória reduzidos e “experiências de IA de agente mais rápidas e responsivas”.
O Element Accelerator é "construído especificamente para as cargas de trabalho de transformadores que alimentam a moderna IA generativa e de agente" e, junto com as extensões escalar, vetorial e matricial, acelera as operações mais importantes para modelos grandes, ajudando os agentes a responder mais rapidamente, bem como raciocinar com mais eficiência e "fornecer experiências mais ricas sem comprometer a eficiência de energia móvel".
A Qualcomm também afirma que o novo NPU tem pré-preenchimento até 50% mais rápido para modelos INT4 e é muito adequado para modelos Mixture-of-Experts (MoE), que ativam apenas uma fração de seus parâmetros por token. O novo Hexagon NPU foi “projetado para IA sempre em execução, raciocínio de longo contexto, modelos multimodais, agentes simultâneos e loops de ação de baixa latência”.
