Американският президент Доналд Тръмп няма притеснения, че изкуственият интелект може да се превърне в екзистенциална заплаха за човечеството. За него далеч по-големият риск е друг – САЩ да загубят технологичната надпревара с Китай.

Попитан дали има опасения, че развитието на AI може да доведе до изчезването на човечеството, Тръмп отговори: „Не, нямам никакви“, предава CNBC.

„Притеснявам се, че ако не спечелим надпреварата за AI, ще се окажем в много лоша позиция“, каза президентът пред журналисти. По думите му САЩ в момента изпреварват Китай „с доста добра преднина“ – около година, което в тази технологична надпревара е значителен период.

Коментарът му идва в момент, когато част от специалистите, които работят върху най-мощните AI системи в света, отправят все по-драматични предупреждения за скоростта, с която технологията напредва.

Тази седмица изследователят от Anthropic Джейкъб Коксън обяви, че напуска компанията, защото според него Anthropic и конкурентът ѝ OpenAI „залагат живота ни на карта“. Той заяви още, че хората, които създават най-напредналите AI модели, „действително вярват“, че технологията „може да убие всички ни до края на десетилетието“.

Евън Хъбингър, който ръководи изследванията върху начините за насочване и контрол на бъдещите системи с изкуствен интелект в Anthropic, оцени вероятността AI да доведе до изчезване на човечеството през следващото десетилетие на над 10%.

Как всъщност AI би могъл да унищожи човечеството?

В САЩ думите на AI изследователите предизвикаха нова вълна от дебати за безопасността на изкуствения интелект. В Брюксел реакцията беше съвсем различна – спокойствие и известна доза злорадство.

За европейските институции предупрежденията от водещите американски AI лаборатории са възможност да защитят теза, заради която ЕС години наред беше критикуван от технологичната индустрия: че рисковете трябва да бъдат регулирани преди да се превърнат в реален проблем.

След революционната поява на ChatGPT през 2022 г. Брюксел многократно беше осмиван от технологични предприемачи и инвеститори заради решението си да регулира технология, която все още беше в ранен етап на развитие.

Сега европейски представители твърдят, че са разпознали част от рисковете, за които самата индустрия започва да предупреждава все по-силно.

„Според мен ЕС вече е приел законодателство точно за подобен сценарий. Нарича се Закон за изкуствения интелект“, казва пред POLITICO Майкъл Макнамара, ирландски евродепутат и един от ръководителите на групата в Европейския парламент, която следи прилагането на правилата за AI.

Изследовател на Anthropic: Вероятността AI да унищожи човечеството е над 10%

Два различни отговора на един и същ риск

Разликата между Вашингтон и Брюксел е особено видима именно сега.

За администрацията на Тръмп AI е преди всичко стратегическа надпревара, в която САЩ не могат да си позволят да отстъпят лидерството на Китай. Двете държави се конкурират все по-остро за технологично превъзходство, докато китайските модели стават все по-мощни и намират все по-широко приложение по света.

В Европа акцентът е друг: как развитието на най-мощните модели да продължи, без компаниите да получат неограничена свобода да поемат системни рискове.

Подходът „запазете спокойствие“ се превърна в основна позиция сред европейските политици – да не се поддават на всяко ново предупреждение или инцидент, а да прилагат регулаторната рамка, която ЕС вече е създал.

„ЕС вече разполага с правна рамка за регулиране и ограничаване на рисковете, свързани с усъвършенстваните модели“, коментира пред POLITICO говорителят на Европейската комисия Тома Рение.

Улян Шарка, главен изпълнителен директор на базираната в Италия Domyn, която разработва AI модели за регулирани индустрии, определя публикацията на Коксън като „нелепа“. Но според него предизвиканата от нея паника предоставя „огромна възможност“ на председателя на Европейската комисия Урсула фон дер Лайен да обясни защо изобщо съществува AI Act.

Европейските мозъци в AI изтичат, а правителствата са безсилни

От загуба на контрол до AI, който сам се усъвършенства

Съгласно европейския AI Act компании като OpenAI и Anthropic трябва да оценяват и ограничават т.нар. системни рискове.

Сред тях са опасността да бъде загубен контролът върху даден модел и рискът поведението му да престане да съответства на човешките цели и ценности – проблем, известен като AI alignment, или съгласуването на поведението на AI системите с човешките цели и ценности.

Но последните предупреждения от самата индустрия отиват и по-далеч.

Един от основните страхове е свързан с възможността AI моделите да придобият способност сами да подобряват собствените си възможности – процес, известен като рекурсивно самоусъвършенстване (recursive self-improvement, RSI).

„Трудно е да се преувеличи колко опасно е да се устремим с такава скорост към RSI“, предупреди в сряда Джасмин Уанг, изследовател в OpenAI, която работи върху съгласуването на AI системите с човешките цели.

Главният научен директор на OpenAI Якуб Пахоцки също заяви, че очаква бързият напредък на AI да може да продължи и чрез рекурсивно самоусъвършенстване.

„Притеснява ме, че никой не е подготвен за последствията от продължаващото бързо нарастване на машинния интелект“, каза той.

„Ще бъде катастрофа“: Шефът на Siemens критикува курса на ЕС към AI суверенитет

И в САЩ натискът за регулация расте

Позицията на Тръмп обаче не означава, че във Вашингтон няма политическа подкрепа за по-строг контрол.

Част от републиканците се присъединяват към демократите в призивите за по-силен надзор върху най-напредналите AI системи.

През юли републиканецът Джей Обернолте и демократката Лори Трахан обявиха намерение да внесат законопроекта FRONTIER Act, който трябва да създаде рамка за управлението и внедряването на най-мощните AI модели.

„Изследователи по безопасността напускат, мощни AI модели излизат извън контрола на лабораториите си, а компаниите въпреки това продължават надпреварата. Крайно време е Конгресът да престане да стои отстрани и да си свърши работата“, написа Трахан в X.

По-рано този месец сенаторът Бърни Сандърс и конгресменът Грег Касар внесоха още по-радикално предложение – Ban Artificial Superintelligence Act, което предвижда временно спиране на разработването на усъвършенстван AI, докато федералното правителство не въведе правила за безопасност.

Така дебатът в САЩ вече не се свежда просто до противопоставяне между регулация и иновации. Разделението минава и през самата технологична индустрия и американската политика – между онези, които смятат, че забавянето може да струва на страната лидерството пред Китай, и онези, които предупреждават, че скоростта сама по себе си се превръща в риск.

40% срещу 12%: AI отваря инвестиционна пропаст между САЩ и Европа

Брюксел вижда своя момент

В Европа междувременно фокусът остава върху прилагането на вече приетите правила.

Службата на Европейската комисия за изкуствения интелект следи за изпълнението на изискванията на AI Act и работи с независими организации като базираната в Калифорния METR за оценка на рисковете при най-мощните модели.

Именно METR беше привлечена от изследователи на OpenAI и при разследването след широко обсъждания през юли пробив в AI компанията Hugging Face, когато агенти, базирани на технологии на OpenAI, започнаха да действат извън зададените им рамки.

На 30 септември Европейският парламент ще обсъди и предупрежденията за потенциални екзистенциални рискове от AI като част от редовния преглед на прилагането на европейските правила.

„Точно затова AI Act въведе задължения за моделите, които носят системен риск. Сега Европа трябва да гарантира пълното им прилагане“, заяви италианският социалдемократ Брандо Бенифеи.

Според Шарка от Domyn следващата задача пред Европа е по-трудната: да покаже, че регулацията и технологичната конкурентоспособност могат да вървят заедно.

„Един от проблемите на Европа е, че прави нещата по правилния начин, но не успява да обясни достатъчно добре какво прави“, казва той, цитиран от POLITICO.

„Не става дума за забавяне на иновациите. Става дума за това да се движим дори по-бързо, но по безопасен начин.“