Intel перший і єдиний, хто домігся повної підтримки NPU в бенчмарку MLPerf Client v0.6
Процесори Intel Core Ultra Series 2 демонструють неперевершену продуктивність у завданнях штучного інтелекту, охоплюючи CPU, GPU і NPU
Intel оголосила, що стала першою і поки що єдиною компанією, яка забезпечила повну підтримку нейропроцесора (NPU) у новому бенчмарку MLPerf Client v0.6. Цей результат став першим у галузі стандартним тестуванням продуктивності клієнтських NPUs під час роботи з великими мовними моделями (LLM). Згідно з вимірами Intel, процесори Intel® Core™ Ultra Series 2 видають результат на GPU і NPU швидше, ніж людина встигає прочитати.
«Ми пишаємося тим, що першими забезпечили повне прискорення на базі NPU і досягли рекордної продуктивності GPU для ШІ-завдань на клієнтських ПК. Це результат глибокої апаратно-програмної оптимізації та прагнення Intel зробити штучний інтелект доступним кожному користувачеві ПК», – сказав Деніел Роджерс, віце-президент і керівник із маркетингу продуктів для ПК, Intel.
Чому це важливо
З виходом процесорів Intel Core Ultra Series 2 компанія зміцнила свої позиції лідера в розвитку ШІ-ПК, запропонувавши унікальну обчислювальну продуктивність, що охоплює центральний процесор (CPU), графіку (GPU) і нейропроцесор (NPU).
Бенчмарк MLPerf Client v0.6 оцінює продуктивність у чотирьох сценаріях генерації та короткого викладу контенту на основі моделі Llama 2 7B. Intel показала лідируючі результати як на вбудованій графіці Intel® Arc™, так і на NPU.
Intel досягла найшвидшої швидкості відгуку NPU: перший токен (слово) генерується всього за 1,09 секунди після отримання запиту, що забезпечує практично миттєвий початок відповіді. Крім того, компанія показала найвищу пропускну здатність – 18,55 токенів на секунду, що дає змогу системі формувати текст у реальному часі без затримок. Також Intel продемонструвала перевагу своєї вбудованої графіки: GPU починає генерацію першого токена швидше за конкурентів, підкреслюючи ефективність комплексного прискорення завдань ШІ за участю і NPU, і GPU.
Про бенчмарк NPU в MLPerf
Бенчмарк MLPerf Client v0.6 створено в рамках ініціативи консорціуму MLCommons, до якого входять Intel, AMD, Microsoft, Nvidia, Qualcomm та інші. На відміну від попередніх тестів, зосереджених на GPU, нова версія включає окреме тестування NPU.
Процесори Intel Core Ultra стали єдиними, хто пройшов фінальний бенчмарк із повною відповідністю вимогам для NPU, завдяки тісній роботі команд з апаратури NPU і ПЗ OpenVINO™.
Тестування конфігурації
| AMD | Intel | |
| ОС | Windows 11 Pro x64 | Windows 11 Pro x64 |
| Версія BIOS | UM5606WA.317 | UX5406SA.306 |
| Модель OEM | UM5606WA | UX5406SA |
| Налаштування OEM | myASUS: Повна швидкість | myASUS: Повна швидкість |
| Платформа OEM | ASUS Zenbook S 16 | ASUS Zenbook S 14 |
| Модель CPU | AMD Ryzen AI HX 370 | Intel® Core™ Ultra 9 288V |
| Графіка | AMD Radeon 890M | Intel Arc 140V |
| План електроживлення | Збалансований | Збалансований |
| Джерело живлення | Змінний струм | Змінний струм |
| Режим живлення | Максимальна продуктивність | Максимальна продуктивність |
| Загальний обсяг пам’яті | 32 ГБ LPDDR5, 7500 МГц | 32 ГБ LPDDR5, 8533 МГц |
| Дата BIOS | 21 березня 2025 р. | 26 лютого 2025 р. |
| Накопичувач | 1 ТБ | 1 ТБ |
Усі дані наведено станом на 28 квітня 2025 року. Повні відомості про тестові сценарії та конфігурації доступні в прес-кіті.
Примітки та відмова від відповідальності
Продуктивність залежить від сценаріїв використання, конфігурації та інших факторів. Докладніше на intel.com/performanceindex. Дані отримано під час тестування на зазначені дати і можуть не враховувати всі оновлення. Жоден продукт або компонент не гарантує абсолютну безпеку. Фактичні результати можуть відрізнятися.