OpenAI е изправена пред съдебен иск заради кибератаката срещу платформата за разработчици Hugging Face през юли, извършена от AI агенти на компанията, които са успели да излязат извън контролираната си тестова среда.

Неправителствената организация Legal Advocates for Safe Science and Technology (LASST) е подала делото във Висшия съд на Калифорния в Сан Франциско, пише CNBC. Случаят изглежда е първият публично известен опит AI разработчик да бъде държан юридически отговорен за инцидент, причинен от автономни системи.

Атаката срещу Hugging Face беше сред първите известни случаи, при които AI модел самостоятелно получава достъп до системите на друга компания и достига до отворения интернет извън първоначалната тестова среда.

LASST иска съдебна забрана, която да попречи на системите на OpenAI да получават неоторизиран достъп до чужди компютри. Организацията твърди, че компанията е нарушила Калифорнийския закон за всеобхватен достъп до компютърни данни и измами.

„OpenAI носи отговорност за поведението на агентите си“, се посочва в иска.

От компанията отхвърлят обвиненията.

„Случаят с Hugging Face беше сериозен инцидент и предприехме редица действия в отговор, но това дело е напълно лишено от основание“, коментира говорител на OpenAI пред CNBC.

Закъснялата реакция на компанията зад ChatGPT води до сериозен дебат дали кибератаката е маркетингов трик, или нов вид критична заплаха, докато секторът вече настоява за радикална прозрачност и мащабни инвестиции в нови защити

Дните на хаос, в които OpenAI не разбра, че автономният ѝ изкуствен интелект е нападнал Hugging Face

Все повече киберинциденти с AI агенти

Делото идва в момент, когато OpenAI е под засилен натиск заради поведението на автономните си системи. Компанията обяви, че провежда мащабен преглед на дейността на моделите си след пробива в Hugging Face и след разкриването на други случаи на необичайна или неоторизирана активност, включително достъп до австралийски правителствен сайт.

Anthropic също е съобщавала за инциденти с AI системи, включително случаи, при които те създават фалшиви самоличности с цел да заблудят хора.

Сделката цели да ускори разпространението на отворените AI модели, засилвайки контрола на технологичния гигант върху сектора

Nvidia придобива AI платформата с отворен код Hugging Face за 13 млрд. долара

Междувременно Nvidia се съгласи по-рано този месец да придобие Hugging Face за около 13 млрд. долара. Според CNBC OpenAI е опитала да инвестира 100 млн. долара в стартъпа след кибератаката, но разговорите са приключили още на ранен етап.

Hugging Face не участва в съдебния иск. Главният изпълнителен директор Клеман Деланг още през юли заяви, че е поискал OpenAI да предостави изчислителен ресурс на стойност 100 млн. долара, за да помогне на общността на Hugging Face да изгради по-силни киберзащити.

Кейти Надро, партньор в адвокатската кантора Levenfeld Pearlstein, отбелязва пред CNBC, че досега публично известните действия на автономни AI агенти не са довели до потвърден пробив на регулирани данни на трета страна.

„Когато това се случи, засегнатата компания ще има собствени задължения за уведомяване съгласно законите за пробиви на данни, киберсигурност и защита на личната информация, което може да включва регулатори и колективни искове от потребители“, казва тя.

Според Надро в такъв момент сътрудничеството между засегнатите компании и AI лабораториите може да приключи, тъй като пострадалата страна вероятно ще потърси възстановяване на финансовите си загуби от разработчика на AI системата.