Технологичните лидери на Силициевата долина често черпят вдъхновение от класически научнофантастични романи, прочетени в детството им. Въпреки това, според водещ анализатор в САЩ, те са интерпретирали основните послания на тези произведения неправилно.

В анализ за технологичното издание WIRED, Джил Лепор – носител на наградата „Пулицър“, професор по история в Харвард и автор на книгата The Rise and Fall of the Artificial State , изследва как визиите на фигури като Илон Мъск, Сам Алтман и Джеф Безос значително се разминават с действителните послания на предпочитаните от тях книги.

Wikimedia Commons - Джил Лепор – носител на наградата „Пулицър“, професор по история в Харвард и автор на книгата The Rise and Fall of the Artificial State

Лепор твърди, че технологичните милиардери създават свят, вдъхновен от научнофантастичните книги, които са чели в детството си. Вместо да възприемат антиутопичните разкази като предупреждение, те ги използват като буквални ръководства за действие. Авторката на анализа определя тази визия като „Изкуствена държава“, която представлява стремеж към пълно отделяне на човека както от природата, така и от другите хора.

„Екстремна форма на тази мечта са плановете на малка група изключително могъщи лидери в технологичната индустрия, които, в опит да избягат от ограниченията на собствените си тела, възнамеряват да замразят главите си след смъртта и евентуално да качат съзнанието си в сървъри“, пише за WIRED професорът от Харвард. Тя допълва, че това е „идея, която идва директно от истории, публикувани преди близо век в младежки списания“.

През последните години някои от тези бизнес лидери заявяват, че гражданите и правителствата трябва да участват в управлението на технологичната индустрия. „На практика обаче не са създадени демократични структури или международни регулаторни съвети“, отбелязва Лепор. Вместо това те започват да разпространяват истории, наподобяващи научна фантастика, които представят екзистенциални заплахи, свързани с изкуствения интелект.

Авторката на The Rise and Fall of the Artificial State подчертава парадокса, че според тези лидери заплахите могат да бъдат предотвратени единствено чрез още по-ускорено развитие на самия изкуствен интелект.

„Това се прави с една основна цел: привличане на огромни инвестиции в техните корпорации, дори с цената на екологични щети за планетата“, категорична е Лепор.

Тя дава пример с главния изпълнителен директор на OpenAI Сам Алтман, който наскоро прогнозира, че е възможно голяма част от повърхността на Земята да бъде покрита с центрове за данни, като добавя, че „всъщност може би ще ги сложим в космоса“.

Лепор отбелязва:

Алтман твърди, че е запален почитател на фантастиката. Той е особено впечатлен от слабо познат канадски роман, в който война е унищожила човечеството, но съзнанията на мъртвите са качени в AI система, която изпълнява волята на ново правителство. Подобно на милиардера Питър Тийл, Алтман вече се е записал за криогенно замразяване с надеждата за бъдещо дигитално прераждане

Лепор посочва и примера на компютърния учен Стюарт Ръсел, който сравнява проблема с контролирането на изкуствения интелект с притчата за цар Мидас, който се разорява, получавайки точно каквото е пожелал от боговете.

„Както обаче отбелязват литературните критици, поуката от мита за Мидас не е за софтуерна грешка в изпълнението на желанията, а фактът, че алчността и преследването на богатство унищожават това, което е реално важно – урок, който Силициевата долина изглежда пропуска.“

„Да превърнем туитовете на Сам в реалност“: Това ли е краят на романтичната ера за OpenAI?

Илон Мъск и „Пътеводителят“

Джил Лепор посочва, че когато Илон Мъск е бил на 10 години, е прочел култовата поредица Foundation на Айзък Азимов. Мъск извежда от нея урока, че човек трябва да предприема действия, които „удължават цивилизацията и минимизират вероятността от тъмна епоха“.

„Дори алгоритмите днес обаче биха отговорили, че реалната поука на Foundation е, че бъдещето се оформя не от велики индивиди, а от колективни действия, че абсолютната власт корумпира и че компютърните прогнози за човешкото поведение често се превръщат във форма на тирания“, категорична е Лепор.

Лепор твърди, че Мъск е пропуснал основната идея и на друга книга, която според собствените му думи му е повлияла най-силно – The Hitchhiker's Guide to the Galaxy на Дъглас Адамс. От нея милиардерът извлича единствено, че „често въпросът е по-труден от отговора“.

Професорът от Харвард подчертава, че това е изключително ограничен прочит на сатира, която всъщност представлява остра критика на империализма и нерегулирания капитализъм. Дъглас Адамс написва книгата в края на 70-те години на пишещата си машина, върху която е поставил лепенка „КРАЙ НА АПАРТЕЙДА“.

„Това, че младият Мъск е чел книгата в Южна Африка и не е уловил критиката срещу режима, е обяснимо за едно дете. Странното е, че той се придържа към тази повърхностна интерпретация и като зрял мъж. Още по-иронично е, че главният антигерой в книгата – Зейфод Бийбълброкс (нарцистичен президент на галактиката, който се забърква в скандали, само за да отвлича вниманието от факта, че вселената се управлява от сенчести корпорации) – днес звучи като пародия на самия Мъск“, отбелязва Лепор.

Десетилетия по-късно Мъск изпраща в космоса автомобил Tesla с копие на Foundation и дори предлага първият кораб на SpaceX до Марс да бъде наречен на името на откраднатия от Бийбълброкс космически апарат – „Сърце от злато“.

Илон Мъск за изкуствения интелект: Дори да исках да го спра, не бих могъл – така че нека се насладим

Джеф Безос също свързва амбициите си за изграждане на космически колонии с преживяванията си от детството. През 2021 г., когато неговата компания Blue Origin изпраща в космоса 90-годишния актьор Уилям Шатнър (емблематичният капитан Кърк от „Стар Трек“), реакцията е необичайна.

Вместо триумф, Шатнър изпитва дълбока скръб. След приземяването си, плачейки, той се опитва да опише на Безос ужаса от съзерцаването на крехката Земя, разрушавана от човешка дейност, отбелязва Лепор.

Междувременно, според Лепор, много от предупрежденията на научната фантастика вече са се превърнали в реалност.

„Както Е. М. Форстър прогнозира в своя разказ „Машината спира“ преди повече от век, голяма част от хората днес прекарват до 90% от времето си на закрито, приковани към екраните, докато машините им доставят всичко необходимо. Дивата природа изчезва, а животните биват заменяни от роботи – от 2010 г. насам глобалното им производство расте експоненциално“, пише тя.

Джил Лепор отбелязва, че парадоксът се състои в това, че изграждането на тази „Изкуствена държава“, тоест превръщането на научната фантастика в реална инфраструктура, прави самата Земя все по-малко пригодна за живот.

Това обаче не изглежда да тревожи създателите на това бъдеще, тъй като те разполагат с планове за бягство: Илон Мъск към Марс, Марк Зукърбърг към Метавселената, Питър Тийл към убежището си в Нова Зеландия, Джеф Безос в космоса, а Сам Алтман – в облака.

В заключението на своя анализ Лепор е категорична: тези лидери не спасяват човечеството, а по-скоро се подготвят да го изоставят.