Qualcomm przedstawia swój SoC Snapdragon 8 Elite Gen 6, a także Snapdragon 8 Elite Gen 6 Pro podczas corocznego szczytu Snapdragon Summiton, który odbędzie się 22 września.
Przed tym wydarzeniem firma drażni się z ulepszeniami wprowadzonymi w jednym z układów Hexagon NPU (prawdopodobnie mówimy o Hexagon NPU w Snapdragon 8 Elite Gen 6 Pro).
Został on stworzony z myślą o agentycznej sztucznej inteligencji, z akceleratorem elementów zorientowanym na transformator i o 50% większą pamięcią współdzieloną, która „utrzymuje często używane dane modelu blisko jednostki NPU”, dzięki czemu agenci „mogą reagować, gdy żonglują dłuższym kontekstem, większą liczbą narzędzi i współbieżnymi zadaniami”. Można się więc spodziewać zmniejszonych wąskich gardeł pamięci i „szybszych, bardziej responsywnych środowisk agentowej sztucznej inteligencji”.
Element Accelerator jest „stworzony specjalnie z myślą o obciążeniach transformatorowych, które napędzają nowoczesną generatywną i agentyczną sztuczną inteligencję” i wraz z rozszerzeniami skalarnymi, wektorowymi i macierzowymi przyspiesza operacje, które mają największe znaczenie w przypadku dużych modeli, pomagając agentom szybciej reagować, a także wydajniej rozumować i „zapewniać bogatsze doświadczenia bez uszczerbku dla wydajności zasilania mobilnego”.
Qualcomm twierdzi również, że nowa jednostka NPU ma do 50% szybsze wstępne wypełnianie modeli INT4 i bardzo dobrze pasuje do modeli Mixture-of-Experts (MoE), które aktywują tylko ułamek swoich parametrów na token. Nowa jednostka NPU Hexagon została „zaprojektowana z myślą o zawsze działającej sztucznej inteligencji, wnioskowaniu w długim kontekście, modelach multimodalnych, współbieżnych agentach i pętlach działania o niskim opóźnieniu”.
