Сатя Надела обяви скритата цена на AI

От всички спорове за потенциалните рискове от AI един тревожи най-силно привържениците на технологията в Силициевата долина. Страхът им е, че големите AI лаборатории, които продават затворени модели, могат да се окажат своеобразен троянски кон.

Опасението е, че когато стартъпи и големи компании използват модели на лаборатории като OpenAI и Anthropic, създателите им получават все по-широк достъп до най-чувствителната бизнес информация на своите клиенти.

След това могат да използват натрупаното знание в собствен интерес и дори да се превърнат в техни конкуренти. Подобни предупреждения отправят хора като главния изпълнителен директор на Palantir Алекс Карп.

Сега към тях изненадващо се присъедини и главният изпълнителен директор на Microsoft Сатя Надела. В публикация в блога си от неделя той посочва, че потребителите на AI, или „купувачите“, както ги нарича, плащат два пъти.

Те съзнателно плащат за използваните токени, но едновременно с това, без да го осъзнават, предават и ценни данни.

„На практика плащате за интелекта два пъти: веднъж с пари и втори път с нещо още по-ценно, собственото знание, което трябва да разкриете, за да бъде този интелект полезен. Колкото по-добре искате да работи моделът, толкова повече от това знание трябва да му предоставите“, пише Надела.

Сатя Надела: Не можем да позволим на AI гигантите да погълнат икономиката

Според него най-големият риск е, че компаниите на практика обучават моделите в тънкостите на собствения си бизнес.

„Моделите се учат от остатъчната информация, която генерира употребата им: от заявките, които хората пишат, от инструментите, които агентите използват, и най-вече от корекциите, които потребителите правят, когато моделът греши. Всяка корекция се превръща в част от институционалното знание“, пише той.

„Това е знание, което конкурентът никога не би могъл да купи, а компаниите го предоставят доброволно.“

Надела твърди, че след като AI компаниите могат свободно да извличат информация от интернет, за да обучават моделите си, е справедливо и техните клиенти да могат да изучават или „дестилират“ тези модели.

„Дестилация“ се нарича практиката, при която изходните резултати на даден модел се използват, за да се разбере как работи той и върху тази основа да се обучи нов, често по-евтин модел.

През февруари Anthropic обвини китайски разработчици на модели с отворен код, че са изпратили милиони заявки към Claude, за да подобрят собствените си системи, и призова американското правителство да затегне контрола върху износа.

Според Надела създателите на модели не могат да претендират за свобода само когато тя е в тяхна полза. По думите му е лицемерно да обучават системите си върху огромни масиви от чужди данни, а след това да забраняват на останалите да правят същото с техните модели.

„Безспорно са необходими правата за добросъвестно използване, които позволяват на доставчиците да обучават модели с публично достъпни данни и така да създават иновации. Иронично е обаче, че след това същите компании налагат ограничителни условия върху дестилацията“, пише Надела.

Масайоши Сон нападна критиците на AI

Той е особено критичен към създателите на модели, които „си запазват правото да се учат от начина, по който клиентите използват системите им, и от данните за взаимодействията с тях“.

Решението, което Надела предлага, е именно такова, каквото може да се очаква от ръководителя на един от най-големите доставчици на облачни услуги, пише TechCrunch.

Според него компаниите трябва да запазят собствеността върху данните си, включително върху заявките, обратната връзка и останалата информация, която подават към AI системите.

Затова той ги призовава да изграждат собствени „среди за обучение“ в облака, където данните им вероятно и без това вече се съхраняват. Удобно за Microsoft, това може да означава именно използването на Azure.

Microsoft съкращава 4 800 работни места заради експанзията на AI

Надела препоръчва също компаниите да изграждат т.нар. оркестрационни слоеве, които им позволяват лесно да превключват между модели на различни доставчици, вместо да остават обвързани само с един. Инструменти като AI шлюзовете, които дават именно такава възможност, стават все по-популярни.

Макар Надела нито веднъж да не използва израза „отворен код“ като начин компаниите да запазят собствеността върху данните си, намекът е очевиден. Зад думите му обаче се крие и още нещо.

Много големи компании, които продължават да поддържат собствени центрове за данни наред с облачната инфраструктура, вече преминават към модели с отворен код, инсталирани на място, или „on-prem“, както се нарича това в технологичната индустрия.

Идит Ливайн, основател и главен изпълнителен директор на Solo.io, компания за мрежова и защитна инфраструктура, която помага на бизнеса да управлява AI системи, казва, че наблюдава именно такава промяна сред своите клиенти.

След като изпробват затворени модели, компаниите започват да си задават въпроса: „Мога ли да взема модел с отворен код и да го използвам в собствената си инфраструктура? Той ще върши почти 90% от това, което прави големият модел, ще струва много по-малко и ще мога да го контролирам“, казва тя пред TechCrunch.

Според Ливайн все повече предприятия инсталират модели с отворен код в собствената си инфраструктура и това ще бъде следващата голяма вълна в корпоративното използване на AI.

Тя не е единствената, която наблюдава тази тенденция. Vercel, известна най-вече като платформа за изграждане и хостване на уебсайтове, която наскоро добави инструменти за превключване между AI модели, и OpenRouter, която помага на разработчиците да насочват заявките си към различни модели, също отчитат рязък ръст на трафика към системи с отворен код.

След като ръководителят на Microsoft, компания, инвестирала както в OpenAI, така и в Anthropic, вече открито предупреждава бизнеса да бъде предпазлив с използването на затворени модели, тази тенденция вероятно ще се засилва.

„Когато използвате интелект, вие създавате интелект. А това, което създавате, трябва да принадлежи на вас“, пише Надела.