Intel® Xeon® 6 забезпечив 17-кратне підвищення продуктивності ШІ (AI) за останні 4 роки

Нещодавно MLCommons опублікувала результати свого стандартного набору тестів продуктивності штучного інтелекту MLPerf Inference v4.1. Корпорація Intel оприлюднила результати шести тестів MLPerf для масштабованих процесорів Intel Xeon 5-го покоління і, вперше, для процесорів Intel Xeon 6 з продуктивними ядрами (P-ядрами). Процесори Intel Xeon 6 з P-ядрами досягли приблизно 1,9-кратного геометричного приросту продуктивності ШІ в порівнянні з процесорами Xeon 5-го покоління.

Intel Xeon – це чудове рішення для штучного інтелекту, в тому числі для класичного машинного навчання і векторного пошуку.

В рамках MLPerf Inference v4.1 Intel протестувала процесори Intel Xeon 5-го покоління і Xeon 6 з P-ядрами на таких популярних моделях штучного інтелекту (ШІ), як  ResNet50, RetinaNet, 3DUNet, BERT, DLRM v2 і GPT-J. У порівнянні з Intel Xeon 5-го покоління, Xeon 6 забезпечує в середньому приблизно в 1,9 рази кращу продуктивність штучного інтелекту в цих шести тестах. Intel залишається єдиним постачальником серверних процесорів, який оприлюднює результати тестування процесорів у тестах продуктивності штучного інтелекту MLPerf.

За останні чотири роки Intel досягла значних успіхів у продуктивності штучного інтелекту на процесорах з моменту, коли вперше представила результати MLPerf. У порівнянні з процесорами Intel Xeon Scalable 3-го покоління у 2021 році, Xeon 6 працює до 17 разів краще в обробці природної мови (BERT) і до 15 разів краще в робочому навантаженні комп’ютерного зору (ResNet50). Intel продовжує інвестувати в ШІ в рамках своєї дорожньої карти для процесорів.

Останні тести MLCommons демонструють, що процесори Xeon забезпечують потужні серверні рішення зі штучним інтелектом на базі CPU для виробників оригінального обладнання (OEM). Оскільки потреба в обчисленнях штучного інтелекту зростає, а багато кінцевих замовників використовують робочі навантаження ШІ разом з корпоративними робочими навантаженнями, OEM-виробники приймають участь у тестах MLPerf, щоб гарантувати своїм клієнтам високопродуктивні системи, оптимізовані для ШІ-навантажень.

Intel підтримала п’ять партнерів OEM – Cisco, Dell Technologies, HPE, Quanta та Supermicro – у подачі заявок на MLPerf. Кожен з партнерів отримав результати MLPerf з процесорами Xeon Scalable 5-го покоління, демонструючи, що їхні системи підтримують різноманітні робочі навантаження і розгортання штучного інтелекту.