تقدم شركة Qualcomm Snapdragon 8 Elite Gen 6 SoC بالإضافة إلى Snapdragon 8 Elite Gen 6 Pro في مؤتمر Snapdragon Summit السنوي في 22 سبتمبر.
قبل هذا الحدث، تختبر الشركة اليوم التحسينات التي أدخلتها على إحدى المعالجات Hexagon NPU (من المفترض أننا نتحدث عن Hexagon NPU في Snapdragon 8 Elite Gen 6 Pro).
تم تصميم هذا من أجل الذكاء الاصطناعي الوكيل، مع مسرع العناصر الذي يركز على المحولات وذاكرة مشتركة أكبر بنسبة 50٪ "التي تحافظ على بيانات النموذج التي يتم الوصول إليها بشكل متكرر بالقرب من NPU" بحيث يمكن للوكلاء "البقاء مستجيبين أثناء التوفيق بين السياق الأطول والمزيد من الأدوات والمهام المتزامنة". لذلك يمكنك أن تتوقع انخفاضًا في اختناقات الذاكرة و"تجارب ذكاء اصطناعي أكثر سرعة واستجابة".
إن Element Accelerator "مصمم خصيصًا لأحمال عمل المحولات التي تعمل على تشغيل الذكاء الاصطناعي التوليدي والوكيلي الحديث"، ومع الامتدادات العددية والمتجهية والمصفوفة، فإنه يعمل على تسريع العمليات الأكثر أهمية بالنسبة للنماذج الكبيرة، مما يساعد الوكلاء على الاستجابة بشكل أسرع، وكذلك التفكير بشكل أكثر كفاءة و"تقديم تجارب أكثر ثراء دون المساس بكفاءة الطاقة المتنقلة".
تقول Qualcomm أيضًا إن وحدة NPU الجديدة لديها تعبئة مسبقة أسرع بنسبة تصل إلى 50٪ لنماذج INT4، وهي مناسبة جدًا لنماذج Mixture-of-Experts (MoE) التي تقوم فقط بتنشيط جزء صغير من معلماتها لكل رمز مميز. تم تصميم وحدة Hexagon NPU الجديدة "للذكاء الاصطناعي الذي يعمل دائمًا، والتفكير طويل السياق، والنماذج متعددة الوسائط، والوكلاء المتزامنين، وحلقات العمل ذات زمن الوصول المنخفض".
