В сряда OpenAI представи първия си специализиран процесор за инференция, проектиран и произведен съвместно с Broadcom. Чипът Jalapeño е създаден да отговаря на специфичните нужди на AI системите на компанията.

Технологичното издание TechCrunch съобщава, че изкуственият интелект на OpenAI е участвал активно в разработката на хардуера.

Въпреки че чипът все още е в тестова фаза, OpenAI съобщава, че ранните резултати показват значително по-добра производителност на ват (performance-per-watt) спрямо настоящите алтернативи на пазара. Партньорството беше обявено през октомври, но плановете на компанията за собствен хардуер се обсъждат отдавна като стратегически ход за намаляване на зависимостта от графичните процесори на Nvidia.

Този подход не е нов, тъй като компании като Google и Amazon вече разработват собствени "AI ускорители" (чипове, проектирани специално за ускоряване на натоварванията при машинното обучение), за да оптимизират инфраструктурата си.

OpenAI остава лидер на пазара, но Claude и Meta AI наваксват бързо с трицифрен годишен ръст на употребата

ChatGPT достига 1 млрд. потребители въпреки растящата съпротива срещу AI

Президентът на OpenAI Грег Брокман представи философията на компанията в корпоративния подкаст малко след обявяването на сделката с Broadcom.

„Имаме дълбоко разбиране за натоварването на системите ни“, сподели Брокман. „Търсихме специфични процеси, които не са достатъчно добре обслужвани технологично до момента, и се запитахме как можем да изградим нещо, което да ускори границите на възможното.“

Jalapeño е проектиран специално за инференция – изпълнение на вече обучени AI модели в отговор на потребителски команди, като например генериране на отговор в ChatGPT.

При анонса компанията подчерта ниските оперативни разходи на чипа при изпълнение на модели за програмиране в реално време. Вероятно ресурсоемките задачи, като първоначалното обучение на базовите модели (pre-training), ще продължат да разчитат на мощния хардуер на Nvidia. Въпреки това, дори минимално намаляване на разходите за ежедневната инференция може да изиграе огромна роля за подобряване на финансовите резултати на OpenAI.

Компанията на Аравинд Сринивас планира излизане на борсата през 2028 г., докато AI секторът се готви за мегалиствания, които ще тестват апетита на инвеститорите

OpenAI и Anthropic официално влизат в IPO-надпревара. Perplexity ще изчака своя ред

Оптимизирането на тези системи се очертава като ключов фактор за икономиката на изкуствения интелект. OpenAI вече разработва агентни продукти като Codex и изгражда центрове за данни за тяхната работа.

Разработката на специализирани чипове позволява на компанията пълен контрол върху процеса.

„OpenAI не само разработва водещи модели или създава продукти върху тях; ние проектираме и инфраструктурата под тях: архитектурата на чиповете, ядрата, системите за памет, мрежите, графиците, системите за внедряване и продуктовото изживяване“, посочват от компанията.

„Тъй като оперираме на всяко ниво от технологичния стак, можем да оптимизираме всичко с една обща цел: да направим нашите модели по-бързи, по-надеждни и по-достъпни за потребителите.“