क्वालकॉम 22 सितंबर को अपना स्नैपड्रैगन 8 एलीट जेन 6 SoC और साथ ही स्नैपड्रैगन 8 एलीट जेन 6 प्रोट अपना वार्षिक स्नैपड्रैगन समिट पेश कर रहा है।
उस इवेंट से पहले, आज कंपनी चिप्स में से एक हेक्सागोन एनपीयू (संभवतः हम स्नैपड्रैगन 8 एलीट जेन 6 प्रो के हेक्सागोन एनपीयू के बारे में बात कर रहे हैं) में किए गए सुधारों को छेड़ रही है।
यह एजेंटिक एआई के लिए बनाया गया है, जिसमें ट्रांसफॉर्मर-केंद्रित एलिमेंट एक्सेलेरेटर और 50% बड़ी साझा मेमोरी है जो "अक्सर एक्सेस किए गए मॉडल डेटा को एनपीयू के करीब रखती है" ताकि एजेंट "लंबे संदर्भ, अधिक टूल और समवर्ती कार्यों को संभालते हुए उत्तरदायी रह सकें"। तो आप कम मेमोरी बाधाओं और "तेज़, अधिक प्रतिक्रियाशील एजेंटिक एआई अनुभवों" की उम्मीद कर सकते हैं।
एलिमेंट एक्सेलेरेटर "ट्रांसफॉर्मर वर्कलोड के लिए उद्देश्य से बनाया गया है जो आधुनिक जेनरेटिव और एजेंटिक एआई को शक्ति प्रदान करता है", और स्केलर, वेक्टर और मैट्रिक्स एक्सटेंशन के साथ, यह बड़े मॉडलों के लिए सबसे महत्वपूर्ण संचालन को तेज करता है, एजेंटों को तेजी से प्रतिक्रिया देने में मदद करता है, साथ ही अधिक कुशलता से तर्क करता है और "मोबाइल पावर दक्षता से समझौता किए बिना समृद्ध अनुभव प्रदान करता है"।
क्वालकॉम का यह भी कहना है कि नए एनपीयू में INT4 मॉडल के लिए 50% तक तेज प्रीफिल है, और यह मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) मॉडल के लिए बहुत उपयुक्त है जो प्रति टोकन केवल उनके मापदंडों का एक अंश सक्रिय करता है। नया हेक्सागोन एनपीयू "हमेशा चलने वाले एआई, लंबे-संदर्भ तर्क, मल्टीमॉडल मॉडल, समवर्ती एजेंटों और कम-विलंबता एक्शन लूप के लिए डिज़ाइन किया गया है"।
