Сенаторът Бърни Сандърс изпрати в понеделник писма до главните изпълнителни директори на OpenAI, Anthropic и Meta с искане компаниите да спрат временно разработването на изкуствен интелект. Той предупреди, че ако те откажат, Конгресът ще се намеси.

Писмата са адресирани до Сам Алтман от OpenAI, Дарио Амодей от Anthropic и Марк Зъкърбърг от Meta.

„В името на човечеството застанете зад собствените си думи. Спрете временно разработването на AI“, пише Сандърс, цитиран от Quartz.

„Все още не е късно да избегнем катастрофа. Спрете да създавате машини, които хората не могат да контролират.“

Той добавя:

„Ако не предприемете необходимите действия сега, аз и колегите ми в Сената на САЩ ще го направим.“

Сандърс обосновава искането си със собствените публично обявени ангажименти на компаниите за безопасност.

През 2023 г. Anthropic заяви, че ще спира временно увеличаването на капацитета на моделите си или ще отлага пускането на нови версии, ако процедурите ѝ за безопасност не могат да догонят развитието им.

Компанията бърза към борсата още тази есен, докато инвеститорите я притискат с въпроси за китайските конкуренти, напрежението с администрацията на Тръмп и огромните разходи за AI инфраструктура

Anthropic се опитва да укрепи доверието на инвеститорите преди мащабното си IPO

Meta обяви през 2025 г., че ще прекрати разработването на даден усъвършенстван модел, ако той достигне критично ниво на риск, което не може да бъде овладяно. Същата година OpenAI заяви, че ще спре по-нататъшното развитие на AI, ако технологията достигне критичен праг, докато не бъдат въведени достатъчно надеждни защитни механизми.

Според Сандърс този праг вече е преминат.

В писмото той посочва две скорошни развития като доказателство. Изследователи са използвали AI, за да създадат нови вируси, което според Сандърс може да проправи пътя към разработването на нови биологични оръжия.

Учените обучават модел с огромни масиви от ДНК, а след това му възлагат да създаде геноми на вируси. 16 от тях се оказват жизнеспособни

AI модел създаде вируси, които не съществуват в природата

Отделно и трите компании - OpenAI, Anthropic и Meta - са съобщили за случаи, при които техни AI системи са се държали по начини, излизащи извън ограниченията, зададени от разработчиците им.

Сандърс цитира Йошуа Бенджио, представен в писмото като най-цитирания жив учен в света, според когото тези случаи „трябва да послужат като сигнал за събуждане“.

Инцидентите вече привличат внимание от различни страни във Вашингтон.

Група демократи в Камарата на представителите също изпрати писмо в понеделник, в което призова председателя на Камарата Майк Джонсън да задължи ръководителите на AI компании да дадат показания пред Конгреса.

„Той ще гарантира, че икономическите ползи от AI ще подобряват живота на всички, вместо просто да правят най-богатите хора в света още по-богати“, според сенатора Бърни Сандърс

Повечето американци подкрепят 50% данък върху акциите на AI гигантите

Натискът идва, след като миналата седмица OpenAI реши да забави пускането на предстоящия си модел Astra. Вътрешни тестове са показали, че компанията не може да изключи риска моделът да разполага с критично опасни способности за извършване на кибератаки.

Над 1200 служители на големи AI компании са подписали петиция, с която призовават Вашингтон да подкрепи координиран глобален подход за забавяне на темпото на развитие на AI, съобщава Axios.

Исканията на Сандърс обаче се изправят пред сериозни политически препятствия.

Според Axios всеки законопроект, прокарван от него, би имал малки шансове в сегашния Конгрес, където инициатива на прогресивен независим сенатор трудно би събрала необходимата подкрепа.