Когато Anthropic обяви този месец, че е създала модел на изкуствен интелект, толкова мощен, че е твърде опасен за широко разпространение, компанията посочи 11 организации като партньори, които да помогнат за изграждането на защита.

Всички те са от Съединените щати.

Само за две седмици моделът, наречен Mythos, предизвика глобална надпревара, каквато досега не е виждана в ерата на AI. Mythos, който според Anthropic притежава изключителна способност да открива и експлоатира скрити уязвимости в софтуера, управляващ банки, електропреносни мрежи и държавни институции, се превърна в геополитически актив – и той е в ръцете на американска компания, пише The New York Times.

Световните лидери се затрудняват да оценят мащаба на рисковете за сигурността и как да им противодействат, като Anthropic е споделила Mythos само с Великобритания извън САЩ.

Управителят на Английската централна банка предупреди публично, че компанията може да е открила начин да „разчупи из основи целия свят на киберриска“. Европейската централна банка започна тихо да разпитва финансовите институции за техните защити.

Финансовият министър на Канада сравни заплахата със затварянето на Ормузкия проток.

За конкуренти на САЩ като Китай и Русия Mythos подчертава рисковете за сигурността от изоставането в надпреварата за AI. Прокремълско руско издание определи модела като „по-опасен от ядрена бомба“.

Реакциите показват реалност, за която изследователите на AI отдавна предупреждават – макар и предимно теоретично: този, който води в създаването на най-мощните модели, ще придобие непропорционално геополитическо предимство.

Големите пробиви в AI започват да приличат по-малко на продуктови премиери и повече на изпитания на оръжия, а повечето държави искат да разберат как работят тези технологии и какви защити са необходими.

„С нарастването на значението на фундаменталните AI модели достъпът до тях става все по-геополитически въпрос“, казва Едуардо Леви Йейати, бивш главен икономист на централната банка на Аржентина и съветник към Inter-American Development Bank.

„Този случай трябва да се приеме като сигнал за събуждане. Правителствата вече не могат да си позволят да игнорират темата“, посочва той пред NYT.

Дори правителството на САЩ, което е в конфликт с Anthropic по въпроса за използването на AI във война, е взело под внимание Mythos. В петък главният изпълнителен директор на компанията, Дарио Амодей, се срещна с представители на Белия дом, след като в администрацията на Доналд Тръмп бяха изразени опасения за потенциала на модела да причини сериозни щети на компютърни системи.

Anthropic, базирана в Сан Франциско, казва пред NYT, че ограничава достъпа до Mythos поради съображения за сигурност. Компанията работи с над 40 организации, които поддържат критична инфраструктура като интернет и електропреносни мрежи, като 11 от тях – включително Amazon, Apple и Microsoft – са поели ангажимент да съдействат за отстраняване на откритите уязвимости.

Компанията няма конкретен график за разширяване на достъпа, но твърди, че ще работи с американските власти и индустрията, за да определи следващите стъпки. По думите ѝ тя е получила множество запитвания от правителства и компании, но нивото на експертиза за безопасна работа с подобен модел варира значително.

Anthropic предупреждава, че други организации вероятно ще създадат и пуснат сходни модели с подобни способности в рамките на 18 месеца, което оставя ограничено време за реакция.

Във вторник компанията съобщи, че разследва информация за неоторизиран достъп до версия на Mythos.

Надпреварата около модела идва в момент на минимално международно сътрудничество в областта на AI. Държавите гледат една на друга с подозрение, докато компаниите се състезават за технологично превъзходство.

„Няма еквивалент на договора за неразпространение на ядрените оръжия, няма общи инспекции и няма ясни правила за управление на подобни технологии“, пише NYT.

Много експерти приветстваха предпазливия подход на Anthropic, но изразиха тревога от липсата на международна координация.

Великобритания е единствената държава извън САЩ с достъп до модела. Нейният Институт за AI сигурност извърши тестове и публикува независима оценка, която потвърждава, че Mythos може да извършва сложни кибератаки, непостигани досега от AI.

„Това е значителна стъпка напред в киберспособностите на AI“, заяви министърът на AI на Великобритания Канишка Нараян, подчертавайки, че страната предприема мерки за защита на критичната инфраструктура.

Други получиха по-ограничен достъп. Европейската комисия е провела поне три срещи с Anthropic, но все още няма достъп до модела поради липса на договореност за условията на споделяне.

Комисията заяви, че анализира „възможните последици“ от Mythos, който показва „безпрецедентни киберспособности“.

Реакцията на Китай и Русия е по-сдържана. Въпреки напрежението между Anthropic и администрацията на Тръмп, Амодей подчертава, че AI трябва да служи за защита на демократичните държави.

В Китай изследователите следят внимателно развитието. Много от банковите и енергийните системи в страната използват същия софтуер, в който Mythos открива уязвимости, но засега Китай няма достъп до модела. Някои китайски изследователи се опасяват, че страната може да изостане още повече, губейки предимствата на ранното развитие на фундаментални модели.

Всеобщо е следното опасение - държави без собствена инфраструктура и модели рискуват да станат зависими от компании като Anthropic, Google и OpenAI, без реално влияние върху развитието и контрола на технологиите.

„Фактът, че достъпът до най-напредналия AI може да бъде едностранно ограничаван от компания по непрозрачни критерии, трябва сериозно да тревожи правителствата“, казва Йейати.