Институт за бъдещето на живота: Тайната организация срещу AI, която получи 660 млн. долара

Млада организация с нестопанска цел, настояваща за строги правила за безопасност на изкуствения интелект, е получила над половин милиард долара от криптовалутен магнат – щедър подарък, който ясно доказва нарастващата финансова мощ на организациите, фокусирани върху изкуствения интелект, пише Politico.

Институтът "Бъдещето на живота" (FLI) има едва около 25 служители в САЩ и Европа. Но неговият нерегистриран досега фонд го поставя наравно с известни организации като Института Брукингс и Фондацията на Американския съюз за граждански свободи.

Според експертите това на практика гарантира, че FLI ще има огромно влияние в бързо развиващия се глобален дебат за регулирането на изкуствения интелект, въпреки че какво точно възнамерява да направи и как ще използва тези средства, е въпрос с редица неизвестни.

Изглежда, че досега FLI е похарчила малка част от парите, най-вече за изследователи на безопасността на AI и на организации, подкрепящи строги правила за развитието на технологията. Четири групи, получили средства от FLI, сега са съветници на новия Институт за безопасност на изкуствения интелект във Вашингтон, а други са ключови участници в плановете за AI безопасност в Лондон.

Укротяване на бягащия изкуствен интелект

Чрез новата фондация "Бъдещето на живота" FLI планира да създава "три до пет нови организации годишно", които да насочват AI и други трансформиращи се технологии "в полза на живота и далеч от екстремни широкомащабни рискове".

Тази мисия поставя FLI от едната страна на оспорвания дебат как и защо да се регулира изкуственият интелект.

Критиците твърдят, че аргументите за дългосрочните рискове, като тези, които FLI изтъква, са спекулативни и омаловажават краткосрочните вреди от технологията, като дискриминация или загуба на работа.

Те също така предупреждават, че провокирането на страх от изкуствения интелект сред политиците може да послужи на целите на технологичните милиардери, които финансират много от тези групи.

"Притеснявам се за ефекта върху регулациите и за това колко голямо влияние имат тези хора по отношение на лобирането пред правителствата и регулаторните органи", признава Мелани Мичъл, изследовател на AI в института "Санта Фе" и скептик относно твърдението на FLI, че напредналият AI може да бъде екзистенциална заплаха за човечеството.

Възходът на AI извади под светлината на прожекторите няколко млади организации с нестопанска цел, които се застъпват във Вашингтон, Брюксел и други столици за своите виждания за закони за безопасност на AI, допълва Politico.

Световният елит се събира на тайна среща "Билдерберг", AI е водеща тема

FLI щеше да бъде също толкова малка, ако през май 2021 г. не получава дарение от криптовалутата Shiba Inu от 665 млн. долара с личното одобрение на криптомагната Виталик Бутерин.

Данъчните документи, предоставени от FLI, показват, че в началото на тази година тя е разполагала само с 2,4 млн. долара. Сега активите ѝ са повече от тези, натрупани не само от повечето други групи за изкуствен интелект, но и от много високопоставени политически организации.

В света на изкуствения интелект Институтът за бъдещето на живота е известен най-вече с миналогодишното вайръл писмо, в което се призовава за "пауза" в изследванията на AI. То беше подписано от лидери като Илон Мъск и съоснователя на Apple Стив Возняк, и предизвика дебат във Вашингтон, Лондон и други страни за потенциалната заплаха от изкуствен интелект.

FLI призова правителствата да изискват лицензи за разработване на AI и да наложат нови правила за безопасност. Тя продължава да насърчава тези политики и от двете страни на Атлантическия океан.

В писмото, изискващо пауза в разработката на AI, има фалшиви подписи

Групите за екзистенциален риск вече се ползват със значително влияние и подкрепа от шепа технологични милиардери, а критиците се опасяват, че масивното наливане на парични средства от FLI в тази екосистема може да изкриви още повече дебата.

Подобно на много други изследователи, Мелани Мичъл смята, че правителствените лицензионни режими или ограниченията върху моделите с отворен код – правила за безопасност, които FLI предпочита, могат да блокират предимствата на водещите компании за AI и да затруднят конкуренцията на стартъпите.

Говорителят на FLI Бен Къминг отбелязва, че неговата организация – която има право да прави благотворителни дарения и да участва в "известно" лобиране, финансира разработки по други мащабни опасности освен AI, включително ядрена война и загуба на биоразнообразие.

Къминг отхвърля схващането, че FLI настоява Вашингтон и други правителства да приемат разпоредби от полза за водещи компании като Microsoft, OpenAI и Anthropic. Други технологични компании, сред които Meta и IBM, разполагат със собствени огромни ресурси, за да отклонят правителствата от строги правила за безопасност на AI.

"Скромните усилия на FLI в подкрепа на разумните регулации бледнеят в сравнение с финансовата подкрепа на антирегулационния натиск на Big Tech", казва Къминг.

Интелектът, който не разбираме: AGI е все по-близо, но остава загадка

Институтът "Бъдещето на живота" вече има важна роля в глобалните усилия за регулиране на изкуствения интелект.

Президентът и съосновател Макс Тегмарк даде показания на сенатски форум за AI миналата есен и беше основен участник в среща на високо ниво на Обединеното кралство през ноември, посветена на безопасността на AI. През октомври ООН назначи Джаан Талин, милиардер, съосновател на Skype и член на борда на FLI, за член на новия си консултативен орган по AI, припомня Politico.

Лобистите на FLI помогнаха да се гарантира, че Законът за изкуствения интелект на Европейския съюз включва нови правила за основополагащите AI модели и продължават да кръстосват Капитолийския хълм, като се стремят да убедят Конгреса в катастрофалния потенциал на технологията.

Но средствата на FLI, подкрепени с криптовалути, я поставят в различна категория от другите групи за безопасност на AI. Организацията разкрива дарението на Бутерин без много шум, в заявление за прозрачност на ЕС, подадено през 2023 г., в което оценява набирането на монети Shiba Inu за 603 млн. евро.

Къминг твърди, че стойността на това дарение възлиза на 665,8 млн. долара. Голяма част от тях са неизразходвани, допълва той: "по-голямата част е прехвърлена към фонд и други организации с нестопанска цел, които предоставят предимно услуги по управление на активи". Къминг нарича това "рутинна настройка за организации с нестопанска цел, които управляват големи ресурси".

Бутерин, създателят на популярната криптовалута Ethereum, не отговори на молбата за коментар относно дарението си за FLI. Но в публикация в блога си през ноември той изразява тревога, че изкуственият интелект може да се превърне в "новия върхов вид на планетата" и вероятно да "сложи край на човечеството".

„Кръстникът на AI” смята технологията за екзистенциален риск за човека

FLI може да използва част от дарението за прякото си лобиране във Вашингтон. Миналата година групата похарчи 180 000 долара, за да лобира пред Конгреса за безопасността на изкуствения интелект.

Но Джаан Талин, който е инвестирал във водещите лаборатории за изкуствен интелект Anthropic и Google DeepMind и е едновременно дарител на FLI и член на нейния петчленен борд, смята, че е време да увеличи тези разходи.

"През последното десетилетие наистина подкрепям хора, които пишат домашното на компаниите за AI относно изследванията на безопасността на изкуствения интелект", заяви той в ноемврийския епизод на подкаста AI and You.

"Мисля, че ще продължа да го правя, но в момента става все по-ясно, че техните изследвания няма да бъдат готови навреме.

Така че в обозримо бъдеще ще се съсредоточа върху регулаторни намеси и обучение на законодателите, както и върху подпомагане и може би наемане на лобисти, за да се опитам да направя света по-безопасен", допълва Талин.

Къминг отбелязва, че като организация с нестопанска цел разходите на FLI за лобиране са ограничени до 1 млн. долара годишно. Той не коментира забележките на Талин.