Съперниците на Nvidia се прицелват в нейнoтo софтуернo господство

Конкурентите и най-големите клиенти на Nvidia се обединяват зад инициатива, ръководена от OpenAI, за създаване на софтуер, който ще улесни разработчиците на изкуствен интелект да обърнат поглед настрани от нейните чипове.

Базираната в Силициевата долина Nvidia се превърна в най-ценния производител на чипове в света благодарение на почти монополното положение върху чиповете, необходими за създаването на големи системи за изкуствен интелект, но недостигът на доставки и високите цени принуждават клиентите да търсят алтернативи.

Създаването на нови чипове за изкуствен интелект обаче решава само част от проблема. Макар че Nvidia е най-известна с мощните си процесори, представители на индустрията твърдят, че нейният "таен сос" е софтуерната ѝ платформа Cuda, която позволява на чиповете, първоначално предназначени за графика, да ускоряват приложенията за изкуствен интелект.

В момента, в който Nvidia инвестира значителни средства за разширяване на софтуерната си платформа, конкуренти, сред които Intel, AMD и Qualcomm, се насочват към Cuda с надеждата да привлекат клиенти - с нетърпеливата подкрепа на някои от най-големите компании в Силициевата долина, коментира Financial Times.

Инженери от Meta, Microsoft и Google участват в разработването на Triton - софтуер за осигуряване на ефективна работа на широк спектър от чипове с изкуствен интелект, който OpenAI пусна през 2021 г.

Дори и да продължават да харчат милиарди долари за най-новите си продукти, големите технологични компании се надяват, че Triton ще помогне да се разбие задушаващата позиция, която Nvidia има върху хардуера за AI.

"По същество той прекъсва заключването на Cuda", казва пред FT Грег Лавендер, главен технологичен директор на Intel.

От върха до подножието: Как Intel загуби лидерството на пазара на чипове

Nvidia доминира на пазара за изграждане и внедряване на големи езикови модели, включително системата, която стои зад ChatGPT на OpenAI. Това доведе до оценяването ѝ на над 2 трлн. долара и накара съперниците ѝ Intel и AMD да бързат да я настигнат. Анализаторите очакват тази седмица Nvidia да съобщи, че последните ѝ тримесечни приходи са се увеличили над три пъти на годишна база, а печалбата – повече от шест пъти.

Но хардуерът на компанията се е превърнал в такава гореща стока само благодарение на съпътстващия софтуер, който тя е разработвала в продължение на почти две десетилетия, създавайки предимство, което конкурентите се опитват да преодолеят.

"Това, с което Nvidia си изкарва прехраната, не е само създаването на чипове, ние създаваме цял суперкомпютър - от чипа до системата и взаимовръзките. И нещо много важно - софтуерът", заяви главният изпълнителен директор Дженсън Хуанг на конференцията за GPU технологии през март. Той определи софтуера на компанията като "операционната система" на изкуствения интелект.

Основана преди повече от 30 години, за да се насочи към геймърите, насочването на Nvidia към AI беше улеснено от нейния софтуер Cuda, който компанията създаде през 2006 г., за да даде възможност на приложенията с общо предназначение да работят на нейните графични процесори.

Може ли TSMC да се превърне в следващата Nvidia?

Оттогава насам производителят е инвестирал милиарди долари в създаването на стотици софтуерни инструменти и услуги, за да направи работата на приложенията за изкуствен интелект на своите графични процесори по-бърза и по-лесна. Ръководителите на Nvidia твърдят, че сега наемат два пъти повече софтуерни инженери, отколкото хардуерни специалисти.

"Мисля, че хората подценяват това, което Nvidia всъщност е изградила", казва пред FT Дейвид Кац, партньор в Radical Ventures, инвеститор, фокусиран върху АI.

"Те изградиха екосистема от софтуер около своите продукти, която е ефективна, лесна за използване и действително работи - и прави много сложни неща прости", добавя той.

"Това е нещо, което се е развивало с огромна общност от потребители в продължение на много дълго време."

Въпреки това високата цена на продуктите на Nvidia и дългите опашки за закупуване на най-модерното оборудване, като например H100 и предстоящия "суперчип" GB200, накараха някои от най-големите ѝ клиенти - Microsoft, Amazon и Meta - да потърсят алтернативи или да разработят свои собствени.

Тъй като обаче повечето системи и приложения за изкуствен интелект вече работят със софтуера Cuda, за разработчиците е времеемко и рисковано да ги пренаписват за други процесори, като MI300 на AMD, Gaudi 3 на Intel или Trainium на Amazon.

"Работата е там, че ако искате да се конкурирате с Nvidia в това пространство, трябва не само да създадете конкурентен хардуер, но и да го направите лесен за използване", казва Генадий Пехименко, главен изпълнителен директор на CentML, стартъп, създаващ софтуер за оптимизиране на изкуствения интелект, и доцент по компютърни науки в Университета в Торонто.

"Чиповете на Nvidia са наистина добри, но според мен най-голямото им предимство е в областта на софтуера."

Nvidia обяви „най-мощния чип в света“, предвещавайки следващо поколение AI

Според Пехименко съперници като TPU AI чиповете на Google могат да предложат сравними резултати в тестовете, но "удобството и софтуерната поддръжка са от голямо значение" в полза на Nvidia.

Ръководителите на компанията твърдят, че работата ѝ по софтуера дава възможност за внедряване на AI модел в най-новите чипове за "секунди" и предлага непрекъснато подобряване на ефективността. Но тези предимства имат и уловка.

"Виждаме, че в екосистемата на AI Cuda е блокирана, което затруднява използването на хардуер, различен от този на Nvidia", казва за FT Мерием Арик, съосновател на TitanML, базиран в Лондон стартъп за изкуствен интелект.

TitanML е започнала да използва Cuda, но миналогодишният недостиг на графични процесори го кара да пренапише продуктите си на Triton. Арик казва, че това е помогнало на компанията да спечели нови клиенти, които са искали да избегнат това, което тя нарече "данък Cuda".

Triton, чийто основател Филип Тил е нает от OpenAI през 2019 г., е с отворен код, което означава, че всеки може да преглежда, адаптира или подобрява кода му.

Поддръжниците твърдят, че това придава на Triton по-голяма привлекателност за разработчиците в сравнение с Cuda. Triton започва работата си само с графични процесори на Nvidia, но вече поддържа MI300 на AMD, като скоро се планира поддръжка на Gaudi на Intel и други ускорителни чипове.

Meta, например, постави софтуера Triton в основата на своя собствен чип за изкуствен интелект, MTIA. Когато компанията пусна второто поколение на MTIA миналия месец, инженерите ѝ заявиха, че Triton е "високо ефективен" и "достатъчно хардуерно агностичен", за да работи с редица архитектури на чипове.

Разработчиците на конкурентите на OpenAI като Anthropic - и дори самата Nvidia - също са работили по подобряването на Triton, според записите в GitHub и разговорите за инструментариума, цитирани от FT.

OpenAI пуска нова платформа, която може да говори. Anthropic стъпва в Европа

Triton не е единственият опит да се оспори софтуерното предимство на Nvidia. Intel, Google, Arm и Qualcomm са сред членовете на UXL Foundation, индустриален алианс, който разработва алтернатива на Cuda, базирана на платформата с отворен код OneAPI на Intel.

Крис Латнер, бивш старши инженер в Apple, Tesla и Google, стартира Mojo, език за програмиране за разработчици на изкуствен интелект, чийто подход заявява: "Тук не се изисква Cuda".

Той твърди, че само малка част от световните разработчици на софтуер знаят как да програмират с Cuda и че за другите е трудно да се научат. Заедно със своя стартъп Modular Латнер се надява, че Mojo ще направи "драматично улеснено" създаването на AI за "разработчици от всякакъв вид - не само за елитните експерти в най-големите компании".

"Днешният софтуер за изкуствен интелект се изгражда с помощта на езици отпреди над 15 години, което е същото, като използването на BlackBerry днес", отбелязва той.

Дори ако Triton или Mojo са конкурентоспособни, на съперниците на Nvidia ще им трябват години, за да наваксат преднината на Cuda. Анализатори от Citi наскоро изчислиха, че делът на Nvidia на пазара на чипове с генеративен изкуствен интелект ще намалее от около 81% през следващата година до около 63% през 2030 г., което предполага, че тя ще остане доминираща за много години напред.

"Изграждането на конкурентен чип срещу Nvidia е труден проблем, но по-лесен от създаването на целия софтуерен стек и убеждаването на хората да започнат да го използват", казва Пехименко.

Лавендер от Intel остава оптимист. "Софтуерната екосистема ще продължава да се развива. Мисля, че условията за игра ще се изравнят."