Графичните процесори (GPU) - чиповете, на които работят повечето модели на изкуствен интелект (AI) - са енергоемки зверове. Според оценки на Goldman Sachs, вследствие на ускореното внедряване на графични процесори в центровете за данни, до 2030 г. търсенето на електроенергия от AI ще нарасне със 160%.

Тази тенденция не е устойчива, казва пред TechCrunch Вишал Сарин, дизайнер на аналогови схеми. След като работи в индустрията за чипове в продължение на повече от десетилетие, той стартира Sagence AI (преди това се нарича Analog Inference), за да проектира енергийно ефективни алтернативи на графичните процесори.

„Приложенията, които биха могли да направят практическите изчисления с изкуствен интелект наистина широко разпространени, са ограничени, защото устройствата и системите, обработващи данните, не могат да постигнат необходимата производителност“, казва Сарин. „Нашата мисия е да преодолеем ограниченията, свързани с производителността, при това по начин, който е отговорен към околната среда.“

Sagence разработва чипове и системи за работа с модели на изкуствен интелект, както и софтуер за програмиране на тези чипове. Въпреки че не липсват компании, създаващи персонализиран хардуер за AI, Sagence е донякъде уникална, тъй като нейните чипове са аналогови, а не цифрови.

Повечето чипове, включително графичните процесори, съхраняват информацията цифрово, като двоични низове от единици и нули. За разлика от тях, аналоговите чипове могат да представят данни, използвайки набор от различни стойности.

AI може да консумира 120 киловата енергия само на един квадратен метър от центъра за данни - еквивалент на около 15 до 25 къщи

Гладният за енергия AI vs. екологичните цели: Тежката дилема пред Европа

Те не са нова концепция. Технологията преживява своя разцвет от около 1935 г. до 1980 г., като помага за моделирането на северноамериканската електрическа мрежа, наред с други инженерни постижения. Сега недостатъците на цифровите чипове връщат привлекателността на аналоговите алтернативи.

От една страна, цифровите чипове изискват стотици компоненти за извършване на определени изчисления, които аналоговите могат да постигнат само с няколко модула. Освен това първите обикновено трябва да прехвърлят данни от паметта към процесорите, което води до затруднения.

„Всички водещи доставчици на силиций за изкуствен интелект използват този стар архитектурен подход и това блокира напредъка в приемането на изкуствения интелект“, смята Сарин. „Аналоговите чипове като тези на Sagence, които са в паметта, не прехвърлят данни от нея към процесорите, което потенциално им позволява да изпълняват задачи по-бързо“.

Благодарение на способността си да използват набор от стойности за съхранение на данни, аналоговите чипове могат да имат по-висока плътност на данните от цифровите си аналози.

На този фон учените призовават да се замислим повече, преди да използваме изкуствен интелект за създаване на мемове

AI изпраща зелените амбиции на Google в задънена улица заради количествата енергия

Аналоговите технологии обаче имат и своите недостатъци. Например, при тях може да е по-трудно да се постигне висока прецизност, тъй като изискват по-фокусирано производство. Освен това те обикновено са по-трудни за програмиране.

Сарин акцентира, че чиповете на Sagence допълват, а не заменят цифровите, например за ускоряване на специализирани приложения в сървъри и мобилни устройства.

„Продуктите на Sagence са проектирани така, че да елиминират проблемите, свързани с мощността, разходите и латентността, присъщи на GPU хардуера, като същевременно осигуряват висока производителност за приложенията на изкуствения интелект“, казва той.

Sagence, която планира да пусне своите чипове на пазара през 2025 г., е ангажирана с „множество“ клиенти и се конкурира с други предприятия за аналогови чипове за изкуствен интелект като EnCharge и Mythic, разказва Сарин.

„В момента пакетираме основната си технология в продукти на системно ниво и гарантираме, че се вписваме в съществуващата инфраструктура и сценарии за внедряване“, добавя той.

Sagence си е осигурила инвестиции от редица спонсори, сред които Vinod Khosla, TDK Ventures, Cambium Capital, Blue Ivy Ventures, Aramco Ventures и New Science Ventures. За шестте години от основаването си е набрала общо 58 млн. долара. Сега стартъпът планира отново да набере капитал, за да разшири екипа си от 75 души.

„Структурата на разходите ни е благоприятна, тъй като не преследваме цели, свързани с производителността. Ние мигрираме към най-новите производствени процеси за нашите чипове“, казва Сарин. „Това е важен фактор за нас.“

При търсене в Google се използват средно 0,3 ватчаса електроенергия в сравнение с 2,9 ватчаса за заявка в ChatGPT

Свръхпотреблението на енергия за AI създава риск за бъдещето, предупреждават компании

Моментът може би е в полза на Sagence. По данни на Crunchbase финансирането на стартиращи компании в областта на полупроводниците изглежда се възстановява след слабата 2023 г. От януари до юли стартъпите за чипове, подкрепени от рисков капитал, са набрали близо 5,3 млрд. долара - число, което значително изпреварва миналата година, когато тези компании са набрали общо по-малко от 8,8 млрд. долара.

Производството на чипове е скъпо начинание, което става още по-трудно заради международните санкции и митата, обещани от бъдещата администрация на Тръмп. Спечелването на клиенти, които са се „заключили“ в екосистеми като тази на Nvidia, е още едно предизвикателство. Миналата година производителят на чипове за изкуствен интелект Graphcore, който набра близо 700 млн. долара и някога беше оценен на близо 3 млрд. долара, обяви несъстоятелност, след като не успя да се наложи на пазара.

За да има някакви шансове за успех, Sagence ще трябва да докаже, че чиповете ѝ наистина консумират драстично по-малко енергия и осигуряват по-висока ефективност от алтернативите - и да събере достатъчно рисково финансиране, за да ги произведе в голям мащаб.