Напрежението между водещите AI компании Anthropic и OpenAI нарасна, след като спор относно използването на AI технологии от американската армия доведе до публичен конфликт между ръководствата им.

Главният изпълнителен директор на Anthropic, Дарио Амодей, критикува Сам Алтман, ръководителя на OpenAI, обвинявайки го в подвеждаща комуникация относно новия договор с Министерството на отбраната на САЩ (DoD).

В писмо до служителите си, цитирано от The Information, Амодей определя позицията на OpenAI като „театър на безопасността“.

„Основната причина те да приемат сделката, а ние – не, е, че те се интересуваха от това да успокоят служителите си, докато ние се интересувахме от предотвратяване на злоупотреби“, пише той.

Спорът за военния достъп до изкуствен интелект

Конфликтът възниква след неуспешни преговори между Anthropic и Пентагона относно условията за използване на AI моделите на компанията от военните.

Компанията вече има договор с Министерството на отбраната на стойност 200 млн. долара, чрез който нейният модел Claude се превръща в първия голям AI модел, внедрен в класифицираните правителствени мрежи на САЩ, пише CNBC.

Според Financial Times технологията на компанията е използвана и при военни операции на САЩ срещу Иран. По време на новите преговори Anthropic настоява Министерството на отбраната да гарантира, че нейните AI системи няма да се използват за масово вътрешно наблюдение или разработване на автономни оръжия.

Пентагонът обаче настоява инструментите за изкуствен интелект да могат да бъдат използвани „за всякакви законни цели“.

Сам Алтман съобщи за сделка с Министерството на отбраната за използването на моделите на стартъпа „в тяхната класифицирана мрежа“

OpenAI сключи сделка с Пентагона часове след като Anthropic влезе в „черния списък“ на Тръмп

Спорната формулировка

Служебна бележка на Амодей до служителите на Anthropic, цитирана от TechCrunch и видяна от Financial Times, посочва, че към края на преговорите Министерството на отбраната е било готово да приеме условията на Anthropic, ако компанията премахне определена формулировка от договора.

Става въпрос за израза „анализ на масово събрани данни“.

Амодей твърди, че тази формулировка точно описва сценария, от който компанията се опасява най-много: използване на AI за масово наблюдение.

След разпадането на преговорите в петък президентът Доналд Тръмп нарежда на федералните агенции да прекратят използването на инструментите на Anthropic.

Министърът на отбраната на САЩ Пийт Хегсет дори заявява, че ще класифицира компанията като риск за националната сигурност във веригата на доставки.

Междувременно Амодей започва нови разговори с Емил Майкъл, заместник-министър на отбраната по изследванията и инженерството, в опит да се постигне споразумение в последния момент, съобщава Financial Times, позовавайки се на източници, запознати със ситуацията.

„Вярвам, че ще имаме най-добрите модели, които ще насърчат правителството да работи с нас… Но ще се появи поне още един участник… предполагам xAI, който да каже: „Ще направим това, което искате“, е заявил той пред служителите на компанията

Сам Алтман: OpenAI не може да избира как военните да използват технологията ѝ

Ескалация и публични обвинения

Напрежението бързо излиза извън рамките на преговорите. Емил Майкъл публично атакува Амодей в X, наричайки го „лъжец“ с „комплекс на бог“.

Амодей също отправя публични обвинения.

Той обвинява както Пентагона, така и OpenAI в подвеждаща комуникация.

В писмото си до служителите той пише, че публичните изявления по темата „са просто откровени лъжи или опит да се създаде объркване“.

Сделката на OpenAI с Пентагона

Докато преговорите с Anthropic се провалят, OpenAI сключва собствен договор с Министерството на отбраната.

Главният изпълнителен директор Сам Алтман заявява, че договорът съдържа същите защитни механизми, за които Anthropic е настоявала.

В блог публикация компанията посочва, че нейните AI системи могат да се използват „за всички законни цели“, но твърди, че това не включва масово вътрешно наблюдение.

„В разговорите ни беше ясно, че Министерството на отбраната счита масовото вътрешно наблюдение за незаконно и не планира да използва технологията с тази цел“, пише OpenAI.

Критиците отбелязват, че понятието „законна употреба“ може да се промени, ако законодателството се измени.

Компанията заяви, че AI инструментите няма да бъдат използвани от разузнавателните агенции за вътрешно наблюдение на граждани на САЩ, наред с други промени

Сам Алтман призна, че OpenAI е прибързал със сделката с Пентагона и преразглежда условията

Реакцията на потребителите

Обявяването на сделката предизвика реакции сред потребителите. По данни, цитирани от Амодей, деинсталациите на ChatGPT са се увеличили с около 295% след обявяването на договора с Министерството на отбраната.

В същия период приложението Claude отчита ръст в изтеглянията.

„Опитът за този PR спин не работи особено добре нито сред обществото, нито в медиите“, пише Амодей.

„Повечето хора виждат сделката на OpenAI с Министерството на отбраната като съмнителна, а нас – като героите.“

Отстъпление от страна на OpenAI

По-късно Сам Алтман признава, че компанията вероятно е действала твърде прибързано. Той заявява, че OpenAI „не е трябвало да бърза“ със сделката и обявява промени в механизмите за контрол върху използването на технологията от Министерството на отбраната.

В публикация в X Алтман също защити Anthropic.

„В разговорите през уикенда повторих, че Anthropic не трябва да бъде определяна като риск във веригата на доставки и че се надяваме Министерството на отбраната да ѝ предложи същите условия, които сме приели ние“, пише той.

Стартъпът продължава да расте с бързи темпове, но се сблъсква с ожесточената конкуренция от страна на Anthropic и Google

OpenAI затвори финансиращ кръг за 110 милиарда долара с подкрепата на Amazon, Nvidia и Softbank

AI индустрията навлиза в нов етап

Anthropic е основана през 2021 г. от бивши служители и изследователи на OpenAI, които напускат компанията поради разногласия относно стратегическата ѝ посока.

Оттогава компанията изгражда имиджа си като алтернатива, която поставя безопасността на AI на първо място.

Този подход обаче все по-често се сблъсква с политическите и военните интереси на правителствата.

През последните месеци представители на американската администрация критикуват Anthropic, че се фокусира прекомерно върху рисковете от AI, вместо върху практическото му приложение.

Натиск от технологичния сектор

Случаят предизвика реакция и от технологичната индустрия.

Технологична организация, сред чиито членове са Nvidia, Google и Anthropic, изпраща писмо до министъра на отбраната Пийт Хегсет, в което изразява тревога относно намерението американска технологична компания да бъде определена като риск във веригата на доставки.