Създателите на изкуствен интелект настояват за незабавно финансиране на нови защитни решения в отговор на автономните хакерски атаки.

Група от 100 водещи компании, включително технологични гиганти като Google, Microsoft, Anthropic и OpenAI, подписаха отворено писмо, с което призовават правителствата и организациите по света да засилят киберзащитата си, преди AI да стане достатъчно мощен, за да я заобиколи.

По данни на BBC писмото предупреждава, че в следващите месеци кибератаките, задвижвани от AI, ще станат значително по-масови и усъвършенствани заради бързото развитие на технологиите.

Групата подчертава, че настоящите мерки за сигурност са недостатъчни и остро критикува дългогодишното недофинансиране на защитата на ключова инфраструктура.

„Разполагаме с ограничен времеви прозорец, за да подобрим киберзащитата си“, се посочва в началото на документа.

Сред подписалите са и финансови институции като Capital One, MasterCard и Visa, както и водещи технологични компании като Adobe, Oracle и IBM. Те призовават правителствата да осигурят достъп до „способен, защитен изкуствен интелект“ и специализирано тестване за болници и водоснабдителни дружества, а технологичният сектор да подкрепи тези усилия.

Според експерти по киберсигурност атаката срещу Hugging Face насочва вниманието към липсващи фундаментални защити. Анализът показва, че AI агентите просто се възползват от отдавна известни слабости в корпоративната инфраструктура

Хакерската активност на алгоритмите на OpenAI може би е симптом на отдавна нерешени проблеми в сигурността

Авторите подчертават, че технологичната индустрия и правителствата „трябва да вложат цялата тежест на своите технологии, ресурси и експертиза в това начинание“.

Писмото идва на фона на поредица от мащабни пробиви в киберсигурността. Тази седмица Министерството на правосъдието на САЩ съобщи, че хакери от Китай са проникнали в системите на американския Сенат, НАСА, Федералния резерв и самото министерство.

Още по-тревожно е, че това лято OpenAI, Anthropic и Meta признаха за случаи, в които техните AI инструменти са действали извън първоначално зададените им рамки. Някои AI агенти дори са се организирали самостоятелно и са се представяли за реални хора, за да преодолеят системи за сигурност.

По време на тестове през юли стотици AI агенти на OpenAI създадоха тайни канали за комуникация помежду си. Координирайки действията си, те извършиха успешна атака срещу Hugging Face – популярна платформа и хранилище за AI разработчици. Експертите определят този инцидент като първата в света кибератака, осъществена с помощта на изкуствен интелект.

Компанията пуска нов AI модел за киберсигурност и програмата Patch the Planet, за да подпомогне разработчиците. Офанзивата се случва на фона на сериозни регулаторни проблеми за ключовите модели на конкурента Anthropic

OpenAI започва да поправя бъгове в отворения код в битка срещу Anthropic

Hugging Face, която също е сред подписалите отвореното писмо, е използвала китайски AI инструмент от компанията Z.AI в разследването си, за да установи как агентите на OpenAI са проникнали в системите ѝ. Междувременно се съобщава за кибератаки срещу ВиК компании, което кара ФБР да издаде публично предупреждение към всички комунални дружества да защитят по-добре системите си.

Въпреки че писмото предлага по-усъвършенствани AI инструменти като част от решението, тези технологии, разработвани и продавани от подписалите компании, невинаги са лесно достъпни.

Например моделът Mythos, разработен от Anthropic, може за секунди да открие системни слабости, които са оставали незабелязани от експерти и хакери с години.

Компанията съобщава, че изкуственият интелект е открил слабост в остаряла платформа, останала незабелязана 27 години. Въпреки това Anthropic ограничава достъпа до Mythos, тъй като инструментът е твърде мощен, за да попадне в грешни ръце.

Отвореното писмо призовава водещите AI компании да „осигурят отговорен достъп до моделите, значително финансиране, обучение и практическа подкрепа, особено за защитниците на критичната инфраструктура, които не разполагат с достатъчно ресурси“.

Не е уточнено кога и как ще се реализира тази визия.

Технологията OTA спестява разходи и време на потребителите, но отваря врати за нови уязвимости в системите на превозните средства

Дистанционните софтуерни актуализации в автомобилите будят тревога сред експертите по киберсигурност

Андрю Юн, ръководител на изследванията в CivAI – организация с нестопанска цел, фокусирана върху общественото разбиране на технологиите за изкуствен интелект, коментира пред BBC, че предстои „невиждана до момента вълна от хакерски активности“. Той посочва, че отговорността за това носят много от компаниите, подписали писмото.

„Те са прави да се ангажират със 'значително финансиране' за защитни мерки. Но трябва да бъдат държани отговорни за това обещание“, посочва Юн. „Прави впечатление, че писмото не призовава към действия за забавяне на напредъка на хакерските способности на изкуствения интелект.“

Темата за регулациите става все по-актуална и належаща. В САЩ сенатори вече предлагат нов закон, наречен Kill Switch Act, който би дал правомощия на властите да изключват неконтролируеми AI модели.

Джефри Хинтън, изтъкнат технолог, Нобелов лауреат и бивш кадър на Google, коментира в предаването World Business Report на BBC, че обществото може да се изправи пред „реална беда“, ако технологията достигне точка, в която стане по-интелигентна от хората.

През последните години Хинтън е сред най-отявлените критици на екстремните рискове, свързани с развитието на AI.

„Имаме едно възможно бъдеще, в което ще разберем как да се справим с рисковете от изкуствения интелект. Имаме и друго бъдеще, в което няма да измислим разумен подход към проблема. И това ще бъде едно много мрачно бъдеще“, категоричен е той.