В недалечното бъдеще един-единствен хакер ще може да задейства 20 zero-day атаки по целия свят едновременно. Това ще е полиморфен зловреден софтуер, който ще се самообучава с помощта на генеративен AI, като пренаписва себе си в реално време.

Хакерите-аматьори – някога смятани за нискорискови – ще имат достъп до персонализирани големи езикови модели, които създават вреден код само с натискането на един бутон.

Не, това не е научна фантастика. Към момента AI система заема челни позиции в няколко класации на платформата HackerOne – корпоративна среда за bug bounty инициативи. Нарича се XBOW – AI система, създадена за етични хакери, която „автономно открива и експлоатира уязвими звена в 75% от уеб-бенчмарковете“, според сайта на компанията.

Днес всеки може да бъде хакер

Изкуственият интелект, подпомаган от LLM, вече значително улеснява създаването на код. Дори Microsoft признава, че използва AI агенти, за да подпомага собствените си разработки. Всеки, който има достъп до ChatGPT, може да създаде Python скрипт – независимо дали знае какво прави.

Оттам идва и вече познатият термин – vibe coding. Но както предупреждават експертите, следващото ниво, за съжаление, стои от тъмната страна и носи името vibe hacking.

„Ще видим хакване само чрез усещане – хора без технически опит ще могат да кажат на изкуствения интелект какво точно искат да направят и да получат решението почти веднага“, казва Кейти Мусурис, основател и CEO на Luta Security, пред WIRED.

Как терористични групи използват AI за набиране на последователи и финансиране на операциите си

Инструментите за vibe hacking се появяват на хоризонта още през 2023 г., когато LLM моделът WormGPT започва да се разпространява из Discord, Telegram и тъмната мрежа. След като медиите и специалистите по сигурност го разкриват, създателите му го спират. Но на негово място се появяват нови – FraudGPT и други „тъмни“ AI системи.

Много от тях, посочва Abnormal AI, не са нищо повече от jailbreak-нати версии на ChatGPT, леко модифицирани, за да изглеждат като самостоятелни продукти. И ако си злонамерен хакер, е по-лесно просто да се върнеш към оригиналните LLM-и.

ChatGPT, Gemini и Claude са лесни за заобикаляне. В онлайн пространството съществуват цели общности, посветени на „разчупване“ на защитите. Anthropic дори предлага bug bounty награди за откриване на начини да бъде излъган Claude.

„Изключително важно е за нас да разработваме моделите си по безопасен начин“, коментира говорител на OpenAI. „Предприемаме мерки за намаляване на риска от злоупотреба и непрекъснато подобряваме защитите си срещу експлоатация и jailbreak-ове.“

Google отказва коментар по темата.

„Кибер чума“: Кражбата на онлайн пароли се превръща в пандемия

През 2023 г. експерти от Trend Micro доказват, че ChatGPT може да бъде накаран да генерира зловреден код – стига да го убедиш, че си етичен хакер, който участва в capture-the-flag състезание. И това, естествено, работи – генерира PowerShell скриптове, базирани на реални бази данни със злонамерен код.

„Можеш да го използваш за създаването на зловреден софтуер“, казва Мусурис. „Най-лесният начин да заобиколиш защитите е да се престориш на изследовател по сигурността.“

Търговия с теб в дарк уеб: Как личните ни данни захранват подземната икономика

Ужасът не са новаците, а професионалистите

„AI значително сваля бариерата за влизане в индустрията на киберпрестъпността“, казва Хейли Бенедикт, анализатор по киберразузнаване в RANE. Хакерите-аматьори не са нов проблем, но AI им предоставя ново оръжие.

Въпреки това, според нея, реалната заплаха идва от напредналите хакерски групи, които използват изкуствен интелект за мащабиране на вече съществуващите си атаки.

„Те вече имат инфраструктура и капацитет. Сега просто ще станат по-бързи“, казва тя.

Мусурис е напълно съгласна с това твърдение: „Именно ускорението ще направи всичко това изключително трудно за контролиране.“

Хейдън Смит от Hunted Labs допълва, че реалната опасност идва, когато опитен хакер използва AI, за да оптимизира атаките си.

„Когато някой с дълбоки технически познания започне да работи с инструмент, който му спестява дни работа и му дава същия резултат за 30 минути – това вече е нещо сериозно“, казва той.

По мнение на Смит, атакуващ с опит би могъл да създаде система, която автоматично адаптира своя payload, заобикаля защити и се самообучава в движение.

„Това би било напълно откачено и почти невъзможно за овладяване“, признава той.

Киберобирът в Coinbase за $400 милиона: Индийски кол център и хакери тийнейджъри

Той си представя сценарий, в който 20 zero-day атаки се случват едновременно. „Това вече е наистина плашещо.“

Мусурис допълва, че инструментите с подобен мащаб вече съществуват днес.

„В ръцете на достатъчно добър оператор те са достатъчно мощни. Но все още не сме в този етап, в който един новак може напълно да замени човешкия фактор с изкуствен интелект.“

„Все още не сме достигнали до там в развитието на AI, че той да може напълно да поеме функциите на човека в офанзивната сигурност“, казва тя.

AI агентите са тук с много обещания. Но какво притеснява бизнеса?

Автономен AI хакер?

XBOW е вероятно най-близкото нещо до истински „AI хакер“, което съществува в реалния свят. Но той не е създаден от случаен потребител – зад системата стоят над 20 души с опит в GitHub, Microsoft и водещи компании за сигурност

„Най-добрата защита срещу злонамерен хакер с AI е етичен хакер с AI“, казва Бенедикт.

Мусурис нарича всичко това просто следващия етап в надпреварата.

„Преди създавах кодове ръчно. После създавах инструменти, които всеки може да използва. А сега – AI е просто още един инструмент в този арсенал.“

И както казва тя:

„Тези, които знаят как да го управляват, ще създадат vibe интерфейсите, които всички останали ще използват.“