Администрацията на президента на САЩ Доналд Тръмп изпраща противоречиви сигнали относно политиката си към изкуствения интелект на Anthropic. От една страна, Пентагонът блокира компанията, определяйки я като „риск за веригата на доставки“ поради спор за това как военните могат да използват нейните AI модели.

В същото време обаче Министерството на финансите и Федералният резерв насърчават водещите банки в САЩ да тестват абсолютно същата технология, според информация на Bloomberg.

Това разминаване между институциите изкарва на преден план новия модел на компанията – Mythos. Технологията може както да открива пробиви в сигурността, така и да улеснява използването им. Според Reuters, Anthropic вече води разговори с американското правителство за модела, въпреки че Пентагонът прекрати отношенията си с компанията след спор за ограниченията върху използването на AI от военните.

Компанията отказва да премахне ограниченията, които забраняват използването на нейните модели в напълно автономни оръжия и в системи за масово наблюдение на американски граждани. Съоснователят Джак Кларк признава, че има спор, но подчертава, че това не бива да спира комуникацията с държавата. По време на събитието Semafor World Economy във Вашингтон той каза, че правителството „трябва да знае за тези технологии“ и че разговорите ще продължат и за бъдещи модели, предава Reuters.

Claude Mythos на Anthropic разклаща софтуерния сектор и засилва тревогите за киберрискове

Междувременно апелативен съд във Вашингтон отказа временно да блокира решението на Пентагона, което на този етап оставя забраната в сила. Това е институционална победа за администрацията, въпреки че друг съд вече изрази противоположна позиция в отделно производство.

На този фон министърът на финансите Скот Бесънт и председателят на Федералния резерв Джером Пауъл призовават ръководителите на водещи американски банки, включително JPMorgan Chase, Goldman Sachs и Morgan Stanley, да тестват модела Mythos за откриване на слабости в собствените им системи.

Самият Mythos, представен в началото на април, е описан от Anthropic като най-способния ѝ модел досега, особено в областта на програмирането и т.нар. „агентни задачи“ – системи, които могат да действат автономно. Според данни на Reuters и The Next Web, по време на тестове моделът е идентифицирал хиляди уязвимости от типа „zero-day“.

Това са критични софтуерни пробиви, за които самите създатели на програмите все още не подозират. Тъй като за тях няма пусната защитна актуализация, те представляват огромна опасност – ако попаднат в ръцете на хакери, могат да бъдат експлоатирани напълно свободно. Откриването на толкова много подобни дефекти в основни операционни системи и браузъри прави Mythos едновременно стратегически актив и потенциална заплаха.

Anthropic представя мощния AI модел Mythos в нова инициатива за киберсигурност

Стратегията Project Glasswing

Anthropic избира ограничен достъп вместо публично пускане и създава програмата Project Glasswing. В нейните рамки около 50 организации, сред които Microsoft, Google и Nvidia, получават контролиран достъп до модела.

Компанията подкрепя инициативата с десетки милиони долари под формата на кредити и финансиране за организации в сферата на киберсигурността. Част от технологичната общност обаче поставя под въпрос мащаба на реалните открития и разглежда стратегията на Anthropic като добре премерен корпоративен ход – представяне на модела като ексклузивен и потенциално опасен, за да се засили пазарният интерес.

Въпреки тези дебати банковият сектор действа без забавяне. Освен JPMorgan Chase, която вече участва в програмата, и други големи американски банки тестват модела за откриване на слабости, предотвратяване на измами и автоматизиране на вътрешни процеси. Целта е финансовите институции да открият пробойните в системите си с помощта на изкуствения интелект, преди злонамерени лица да успеят да се възползват от тях.