Човечеството „трябва да се събуди“ за потенциално катастрофалните рискове, които мощните AI системи могат да създадат през идните години, предупреждава Дарио Амодей, ръководител на Anthropic – компания, която е сред водещите в разширяването на границите на технологията.

В есе от близо 20 000 думи, публикувано на сайта му в понеделник, Амодей очертава рисковете, които биха могли да възникнат, ако развитието на технологията остане без контрол – от масови загуби на работни места до биотероризъм.

„Човечеството е на прага да получи почти немислима сила и е дълбоко неясно дали нашите социални, политически и технологични системи притежават зрелостта да я управляват“, пише Амодей.

Есето представлява рязко предупреждение от един от най-влиятелните предприемачи в AI индустрията, че съществуващите предпазни механизми около изкуствения интелект са недостатъчни, посочва Financial Times.

Амодей описва рисковете, които могат да възникнат с появата на това, което той нарича „мощен AI“ – системи, които биха били „значително по-способни от всеки носител на Нобелова награда, държавник или технологичен експерт“ – и които според него могат да се появят още в следващите „няколко години“.

Сред тези рискове е и възможността отделни лица да разработят биологични оръжия, способни да убият милиони хора или „в най-лошия случай дори да унищожат целия живот на Земята“.

Сблъсъкът между Дарио Амодей от Anthropic и Белия дом противопоставя опасенията за безопасно развитие на свободния технологичен пазар

„Професор Панда“ срещу царя на AI: Битката за бъдещето на технологиите

„Проблемно лице, което може да извърши стрелба в училище, но вероятно не може да изгради ядрено оръжие или да пусне чума сега ще бъде издигнат до нивото на способности на вирусолог с докторска степен“, предупреждава Амодей.

Той повдига и риска AI да „излезе извън контрол и да надделее над човечеството“, както и да бъде използван за овластяване на авторитарни режими и други злонамерени участници, което би довело до „глобална тоталитарна диктатура“.

Амодей, чиято компания Anthropic е основният конкурент на OpenAI – създателя на ChatGPT – е влизал в сблъсъци с Дейвид Сакс, „царя“ на AI и криптовалутите в администрацията на президента Тръмп, по повод посоката на американското регулиране.

Той също така е сравнявал плановете на администрацията за продажба на напреднали AI чипове на Китай с продажбата на ядрени оръжия на Северна Корея.

Ръководителят на Anthropic шокира публиката на Световния икономически форум, сравнявайки Nvidia с търговец на оръжия

„Това е безумие“: Дарио Амодей за износа на AI чипове от САЩ за Китай

Миналия месец Тръмп подписа изпълнителна заповед, която ограничава усилията на отделните щати да регулират AI компаниите, а през миналата година публикува план за действие в областта на AI, насочен към ускоряване на иновациите в САЩ.

В есето си Амодей предупреждава за мащабни загуби на работни места и „концентрация на икономическа власт“ и богатство в Силициевата долина в резултат на развитието на AI.

„Това е капанът: AI е толкова мощен, толкова бляскава награда, че за човешката цивилизация става изключително трудно да наложи каквито и да било ограничения върху него“, добавя той в есето си.

В прикрита препратка към противоречията около AI модела Grok на Илон Мъск, Амодей пише, че „някои AI компании са показали обезпокоителна небрежност по отношение на сексуализацията на деца в днешните модели, което ме кара да се съмнявам, че ще проявят желание или способност да се справят с рисковете, свързани с автономността, в бъдещите модели“.

Междувременно X вече е обект на разследване по няколко направления съгласно Закона за дигиталните услуги и през декември беше глобена със 120 млн. евро

ЕК разследва Grok на Илон Мъск за генерираните сексуални изображения

Опасенията за сигурността на AI – включително биологични оръжия, автономни оръжия и злонамерени държавни актьори – заеха централно място в обществения дебат през 2023 г., отчасти под влияние на предупрежденията на лидери като Амодей.

Същата година британското правителство организира среща на върха за сигурността на AI в Блечли Парк, на която държави и лаборатории се договориха да работят съвместно за противодействие на тези рискове. Продължение на срещата е планирано за февруари в Индия.

Според Амодей обаче политическите решения, свързани с AI, все повече се ръководят от желанието да се извлекат ползите от новата технология, а не да се ограничат рисковете ѝ.

„Това колебание е нещастно, защото самата технология не се интересува от това кое е модерно, а ние сме значително по-близо до реална опасност през 2026 г., отколкото бяхме през 2023 г.“, пише той.

Амодей е сред ранните служители на OpenAI, но напуска компанията, за да съоснове Anthropic през 2020 г., след конфликт със Сам Алтман относно посоката на OpenAI и защитните механизми около AI.

Anthropic води преговори за инвестиционен кръг на стойност 25 млрд. долара или повече с групи като Microsoft и Nvidia, както и с инвеститори, сред които сингапурският държавен фонд GIC, Coatue и Sequoia Capital, което би оценило компанията на около 350 млрд. долара.