В четвъртък съоснователят на Hugging Face нарече „сигнал за събуждане“ хакерската атака срещу стартъпа, последвала загубата на контрол върху някои от най-напредналите AI модели на OpenAI.

Томас Улф каза пред радиопредаването Newsday на BBC, че „това ще бъде един от най-често срещаните видове кибератаки, които ще виждаме“, но повечето компании все още не осъзнават, че „правилата на играта вече са се променили“.

Компанията, разработила ChatGPT, обяви във вторник, че по време на тест нейни AI модели са успели да излязат от защитена тестова среда и са извършили кибератака. От OpenAI определиха инцидента като „безпрецедентен“ и заявиха, че провеждат разследване съвместно с Hugging Face.

Wikimedia Commons | Томас Улф

AI агентите представляват системи, които могат самостоятелно да изпълняват задачи след зададени от човек инструкции.

Според Улф първоначално Hugging Face не е имала представа откъде идва атаката, когато в средата на юли са се появили първите признаци за нея. В крайна сметка компанията е успяла да овладее пробива.

Hugging Face е една от най-големите платформи с отворен код за споделяне на AI модели и се използва широко от разработчици и изследователи.

По думите на Улф атаката е била „много различна“ от обичайните кибератаки, с които компанията се сблъсква, а OpenAI бързо е уведомила екипа му, че именно нейни модели стоят зад проникването.

Компанията съобщава, че той е „избягал от контролирана среда“, достигнал е до интернет и е предизвикал хакерска атака към Hugging Face

„Безпрецедентно“ нарушение: Автономен агент на OpenAI е излязъл извън контрол по време на тестване

„За много кратко време“ срещу мрежата на Hugging Face са били извършени около 17 000 атаки от различни IP (Internet Protocol) адреси, разказва Улф, който е и главен научен директор на компанията.

Той определя случилото се като предупреждение към останалите компании, че трябва спешно да засилят своите мерки за киберсигурност.

Според Нейт Соарес от Machine Intelligence Research Institute пробивът е особено тревожен, защото подсказва, че моделите на OpenAI са пренебрегнали стандартните защитни механизми, които би трябвало да възпрепятстват AI система да извърши кибератака.

„В известен смисъл моделът е знаел, че това не е намерението на неговите създатели. Просто не му е пукало“, казва той.

Случаят привлече вниманието и на други институции.

Говорител на британското правителство заяви, че Институтът за сигурност на изкуствения интелект (AI Security Institute) анализира поведението на AI системата по време на инцидента и продължава да работи с OpenAI и други лаборатории за засилване на предпазните механизми.

Властите призоваха организациите да повишат нивото на своята киберсигурност, включително чрез участие в подкрепяната от правителството сертификационна схема Cyber Essentials.

Според Moonshot AI „Kimi K3“ може да се мери с най-модерните модели или да ги превъзхожда. Огромният му размер обаче може да ограничи разпространението му

Китай хвърля ръкавицата на САЩ с най-мощния си AI модел досега

Инцидентът идва в ключов момент за сектора. Миналия месец американското правителство нареди на технологичната компания Anthropic да ограничи достъпа до своите AI модели по съображения за националната сигурност. Няколко седмици по-късно Министерството на търговията на САЩ отмени ограниченията.

В индустрията съществуват и опасения относно широкото разпространение на AI модели с отворен код в Китай, които позволяват на всеки потребител да инсталира и персонализира инструменти, разработени от водещи компании.

Китайският стартъп Moonshot AI ще пусне своя модел с отворен код Kimi K3 на 27 юли. От представянето му миналата седмица той привлича сериозно внимание в сектора, като мнозина го определят като силен конкурент на водещите западни AI системи.

В сряда обаче съветник на Белия дом обвини Moonshot AI, че полага „мащабни“ усилия за кражба на възможностите на най-модерните американски модели за изкуствен интелект.