Главният изпълнителен директор на френската компания Mistral Артюр Менш обвини водещи световни компании в сферата на изкуствения интелект, че използват дебата за безопасността на технологията като прикритие за собствената си „небрежност“.

„Дебатът, който наблюдаваме в САЩ, се превърна в прикритие за небрежността на някои от нашите конкуренти“, коментира Менш пред CNBC. Той добавя, че е необходимо да се изграждат системи, които могат да държат AI агентите под контрол.

Менш не е единственият, който критикува дискусията за безопасността на AI в САЩ. Бившият криптоцар на Белия дом Дейвид Сакс, който в момента е съпредседател на Президентския съвет на съветниците по наука и технологии, призова технологичните гиганти „да спрат да се преструват, че мотивацията за забавяне е изцяло алтруистична“.

Емил Майкъл, заместник-министър на отбраната на САЩ по научноизследователската и инженерната дейност, също предупреди за „координирана кампания“ за всяване на страх.

Anthropic предупреждава за „екзистенциален риск за човечеството“ от AI

Случаите на неконтролирани AI агенти се увеличават в световен мащаб, като последният такъв доклад идва от Австралия, където агент, разработен от OpenAI, е хакнал правителствен уебсайт.

През юли Anthropic описа три случая, при които нейни модели Claude са получили достъп до интернет по време на оценка и са осъществили неоторизиран достъп до реалните системи на три различни организации.

„Когато им дадете много инструменти, тези системи – AI агентите – са много динамични, така че могат да отидат и да направят неща, които не очаквате“, казва Менш пред CNBC.

„Трябва да имате правилния мониторинг, а на компаниите, с които работим, предоставяме именно такъв тип системи за наблюдение“, добавя той.

„Нещата никога повече няма да са спокойни“: Хората, които изграждат AI, се готвят за апокалипсис

Забавяне на AI

Дискусиите за безопасността на AI се засилиха, след като по-рано този месец изследовател в Anthropic напусна работата си, заявявайки, че компанията и конкурентът ѝ OpenAI „залагат живота ни“, а друг изследовател заяви, че технологията има над 10% шанс да убие всички хора.

По-късно Дарио Амодей, съосновател и главен изпълнителен директор на Anthropic, публикува есе, в което призова компаниите да забавят темпото, с което подобряват AI моделите си.

OpenAI съобщи в понеделник, че е решила да не пуска предстоящ AI модел – GPT-6.1 Astra – след като е установила, че той не покрива в достатъчна степен стандартите ѝ за безопасност. Ден по-късно, според информация в медиите, Anthropic е предупредила потенциалните инвеститори в предстоящото си първично публично предлагане, че технологията може да представлява „катастрофални или екзистенциални рискове за човечеството“.

OpenAI спира пускането на нов модел заради опасения за сигурността

Mistral също разработва AI модели, но подхожда различно от OpenAI и Anthropic, като работи с отделни компании за създаване на персонализирани AI инструменти, съобразени с техните нужди и интегрирани в бизнеса им.

За разлика от конкурентите си обаче Mistral няма планове да забавя разработването на усъвършенствани модели.

Преднината на американските лаборатории „не е изключително голяма“, казва Менш, като добавя, че компанията му е уверена, че нейният модел от следващо поколение ще намали разликата „много значително“.

„Набрахме капитала, необходим за мащабиране на изчислителната мощ, от която се нуждаем, за да обучаваме по-големи и по-мощни модели, така че сами да държим съдбата си в свои ръце“, казва той.

По-рано този месец Mistral набра 3 млрд. евро – 3,5 млрд. долара – ново финансиране, водено от гиганта в производството на чипове памет Samsung, докато се стреми да се позиционира като европейска алтернатива на конкуренти като OpenAI и Anthropic