Qualcomm presenterà il suo SoC Snapdragon 8 Elite Gen 6 e lo Snapdragon 8 Elite Gen 6 Pro al suo annuale Snapdragon Summit il 22 settembre.
In vista di quell'evento, oggi l'azienda sta anticipando i miglioramenti apportati a uno degli Hexagon NPU dei chip (presumibilmente stiamo parlando dell'Hexagon NPU dello Snapdragon 8 Elite Gen 6 Pro).
Questo è progettato per l'intelligenza artificiale degli agenti, con un Element Accelerator incentrato sul trasformatore e una memoria condivisa più grande del 50% che "mantiene i dati del modello a cui si accede di frequente vicino alla NPU" in modo che gli agenti "possano rimanere reattivi mentre si destreggiano tra contesto più lungo, più strumenti e attività simultanee". Quindi puoi aspettarti colli di bottiglia di memoria ridotti e "esperienze di intelligenza artificiale con agenti più veloci e più reattive".
Element Accelerator è "creato appositamente per i carichi di lavoro dei trasformatori che alimentano la moderna intelligenza artificiale generativa e agentica" e, insieme alle estensioni scalare, vettoriale e matrice, accelera le operazioni che contano di più per i modelli di grandi dimensioni, aiutando gli agenti a rispondere più rapidamente, nonché a ragionare in modo più efficiente e "fornire esperienze più ricche senza compromettere l'efficienza energetica mobile".
Qualcomm afferma inoltre che la nuova NPU ha una precompilazione fino al 50% più veloce per i modelli INT4 ed è molto adatta ai modelli Mixture-of-Experts (MoE) che attivano solo una frazione dei loro parametri per token. La nuova NPU Hexagon è "progettata per un'intelligenza artificiale sempre in esecuzione, ragionamento a lungo contesto, modelli multimodali, agenti simultanei e cicli di azione a bassa latenza".
