Решението на администрацията на Доналд Тръмп да наложи експортни ограничения върху най-новите модели на Anthropic – Fable 5 и Mythos 5 – разкрива нарастващото напрежение между стремежа към иновации в областта на изкуствения интелект и опасенията, свързани с националната сигурност.

Според представители на администрацията, дни след публичното представяне на Fable 5 в Белия дом са възникнали съмнения относно ефективността на защитните механизми на модела. Макар Anthropic първоначално да е уверила властите, че системата е безопасна за широка употреба, впоследствие администрацията е получила информация, че част от ограниченията могат да бъдат заобиколени, пише POLITICO.

Притесненията се засилват в четвъртък, когато главният изпълнителен директор на Amazon Анди Джаси повдига въпроса пред представители на Белия дом. Amazon е сред инвеститорите в Anthropic, но според източници компанията е предоставила обратна връзка по искане на американската администрация. Впоследствие темата достига до най-високите нива на управление, а министърът на финансите Скот Бесънт, директорът по киберсигурността в Белия дом Шон Кернкрос и други високопоставени служители обсъждат възможните действия.

Европа рискува да подкопае собствената си конкурентоспособност чрез ограничения върху американски компании, твърди технологичният гигант

Google предупреждава ЕС да не „издига стени“ в стремежа към технологичен суверенитет

Следват няколко разговора между представители на Белия дом и главния изпълнителен директор на Anthropic Дарио Амодей. По време на тях Амодей защитава системите за сигурност на компанията и твърди, че установеният проблем не представлява универсален „jailbreak“ – метод, който би позволил широкообхватно заобикаляне на всички ограничения на модела. В последвала публикация Anthropic също заявява, че никой от тестовете не е успял да открие подобен универсален механизъм за отключване на опасни възможности и че пълното предотвратяване на всички потенциални пробиви остава предизвикателство за цялата индустрия.

Администрацията обаче не приема тези аргументи. Според представители на Белия дом данните, предоставени от Amazon, са били анализирани и от Агенцията за национална сигурност, която е потвърдила сериозността на проблема. Властите настояват Anthropic доброволно да ограничи достъпа до модела, докато бъдат отстранени уязвимостите. Компанията от своя страна твърди, че не е получила достатъчно информация за естеството на заплахата и че вместо предложение за сътрудничество е получила кратък срок да преустанови услугата.

В крайна сметка администрацията използва правомощията си в областта на експортния контрол и забранява достъпа на чуждестранни граждани до Fable 5 и Mythos 5. Според Anthropic практическата последица от решението е била временното изключване на моделите за всички потребители, за да бъде гарантирано спазването на разпореждането.

Случаят предизвиква силен отзвук извън Съединените щати и поставя въпроса за технологичната зависимост на други държави от американските компании. Европейски политици от различни идеологически спектри определят случилото се като предупреждение за необходимостта от развитие на собствени системи за изкуствен интелект, пише Euronews.

Бившият френски вътрешен министър Брюно Рьотайо посочва, че държава, която разчита на чужди технологии, може да бъде „изключена за една нощ“, и призовава Франция да използва предимствата си – от ядрената енергия до компании като Mistral, OVHcloud и Scaleway. Подобни позиции изразяват и френският министър по европейските въпроси Бенжамен Хадад, бившият премиер Едуар Филип, както и лидерът на нидерландската Партия на свободата Герт Вилдерс.

Във Великобритания бившият министър по въпросите на сигурността Том Тугендхат определя случая като доказателство, че в бъдеще суверенитетът ще зависи не толкова от военната мощ, колкото от контрола върху ключовите технологии. Бившият министър на въоръжените сили Ал Карнс също предупреждава, че прекомерната зависимост от чуждестранни технологични решения може да постави под риск научни изследвания, бизнес инициативи и дори обществени услуги.

OpenAI, Google, Anthropic и френската Mistral застават зад базирания в Париж F/ai – първата програма, която събира водещи AI лаборатории в обща инициатива

Големите AI конкуренти обединяват сили в нов акселератор за европейски стартъпи

За администрацията на Тръмп случаят представлява опит да се намери баланс между две конкурентни цели – стимулирането на американското лидерство в сферата на изкуствения интелект и ограничаването на потенциалните рискове за националната сигурност. От Белия дом подчертават, че иновациите остават приоритет, но не могат да бъдат поставени над съображенията за безопасност.

Anthropic от своя страна настоява, че правителството трябва да разполага с механизми за спиране на опасни технологии, но само в рамките на прозрачна, предвидима и основана на технически факти процедура. Компанията определя предприетите мерки като непропорционални.

Спорът около Fable 5 и Mythos 5 се превръща в поредното доказателство, че развитието на изкуствения интелект все по-често се разглежда не само като технологичен и икономически въпрос, но и като елемент от националната сигурност и геополитическото съперничество. В Европа случилото се беше посрещнато като още един аргумент в полза на технологичния суверенитет, докато за Съединените щати то се превърна в тест за границите на държавната намеса в регулирането на една от най-бързо развиващите се индустрии в света.