Компанія OpenAI на конференції Hot Chips розкрила нові технічні характеристики та результати тестування власного процесора Jalapeño, розробленого для прискорення інференсу штучного інтелекту. Перше покоління прискорювача перевершило за енергоефективністю та швидкістю систему Nvidia Blackwell, а його розробка від концепту до випуску зайняла лише 9 місяців завдяки використанню ШІ.
Про деталі випробувань та архітектуру чипа повідомили представники OpenAI та керівник відділу апаратного забезпечення компанії Річард Хо. Тестування проводили за допомогою бенчмарку InferenceX від SemiAnalysis на публічних моделях GPT-OSS 120B, DeepSeek R1 670B та Kimi K2.5 1T, а також на внутрішніх алгоритмах OpenAI.
Під час випробувань на моделі Kimi K2.5 1T процесор Jalapeño забезпечив у 1,5 раза вищу пікову продуктивність на ват та в 3,4 раза нижчу затримку від початку до кінця відповіді, ніж система порівняння Nvidia Blackwell. Номінальна потужність (TDP) чипа становить 700 Вт, однак під час реальних робочих навантажень його стабільне енергоспоживання залишалося на рівні 550 Вт або нижче.
Архітектуру чипа спроєктували спеціально під специфіку роботи мовних моделей та інтерактивних ШІ-агентів. Jalapeño оптимізовано під два ключові етапи інференсу: обчислювально містке попереднє заповнення та обмежене пропускною здатністю пам’яті декодування. Завдяки локальному збереженню стану моделі та кешу «ключ-значення» (KV) розробникам вдалося мінімізувати переміщення даних і затримки в мережі.
«Суть у тому, що результати демонструють дуже значний стрибок у продуктивності порівняно з передовими технологіями. Jalapeño може обробляти більше завдань штучного інтелекту на одиницю потужності, водночас надаючи відповіді швидше. Система дуже ефективна для обслуговування великої кількості клієнтів із низькою затримкою», — зазначив Річард Хо.
Створення чипа відбувалося за безпосередньої участі штучного інтелекту, який допоміг оптимізувати арифметичні схеми та скоротити цикл розробки. Крім того, інженери використали Codex та GPT-Astra, щоб за два місяці адаптувати під нову архітектуру три великі моделі з відкритими вагами.
Попри розробку власного заліза, в OpenAI наголошують, що не планують відмовлятися від зовнішніх постачальників — компанія продовжить закуповувати прискорювачі Nvidia та інших партнерів для навчання та інференсу.
Розгортання першої версії Jalapeño в інфраструктурі OpenAI у невеликих обсягах розпочнеться наприкінці 2026 року, а більш масштабне застосування очікується у 2027 році. Повідомляється, що це лише початок багатопоколінної платформи: друге покоління (Gen 2) вже перебуває в активній розробці, а для Gen 3 формують концептуальні деталі.
Уперше про проєкт Jalapeño стало відомо у жовтні минулого року, а подробиці з’явилися вже у червні 2026 року. OpenAI розробляє процесор у тісній співпраці з Broadcom, застосовуючи власні ШІ-моделі як для проєктування, так і для програмування мікросхем.
Джерело: www.ukrinform.ua