В сърцето на Калифорния, сред неокласически статуи и витражи, се издига един от най-необичайните технологични центрове в САЩ - Lighthaven. Това място е превърнато в неофициална централа на движение, посветено на рационалността, философията и, най-вече, безопасността на изкуствения интелект.

Lighthaven обединява пет сгради и малък парк с изкуствена трева, фонтанчета и електрически огнища, които приютяват събития, семинари и неформални дискусии. В центъра на комплекса се намира Aumann Hall - основната сграда, кръстена на израелския нобелов лауреат по теория на игрите Робърт Ауман. Други постройки носят имената на математически концепции и личности, като Bayes House - почит към философа Томас Бeйс. Пространството е създадено така, че да вдъхновява, свързва и катализира идеи, разказва The New York Times.

Или, както го описва един от дългогодишните обитатели, Алекс Чен: „Това е място, където се случва синхронността. Някои го сравняват с кампус на колеж.“

Раждането на едно движение

Рационалистите - както се наричат обитателите и съмишлениците на това място - не са просто група учени. Това е философско движение, което съчетава интереси в математиката, генетиката, етиката, философията и технологията. Централната им идея е, че изкуственият интелект има потенциал да промени човечеството към по-добро, но също така крие екзистенциален риск. Според тях отговорността да се избегне този риск лежи върху създателите му.

Философията на рационализма придобива популярност още към 2018 г., когато онлайн мислителят Елиезер Юдковски публикува поредица от есета, известни като The Sequences, които насърчават критично мислене чрез логика, вероятности и статистика.

Те се превръщат в основополагащ текст на движението. Малко по-късно Юдковски основава в Бъркли Института за изследване на машинния разум (Machine Intelligence Research Institute), който се фокусира върху безопасността на АI.

Идеите на рационалистите са оставили сериозно отражение на технологиите - както чрез идеологическо въздействие, така и чрез конкретни личности. Сред тях са съоснователят на DeepMind Шейн Лег, главният изпълнителен директор на Anthropic Дарио Амодей и Пол Кристиано - бивш изследовател в OpenAI, който сега ръководи институция за стандартизация на АI в САЩ.

Дори Илон Мъск е споделял, че много от възгледите на тази общност съвпадат с неговите.

Рационализмът е тясно свързан с движението за ефективен алтруизъм (Effective Altruism, или ЕА), което се стреми да насочи благотворителността към каузи с най-голямо въздействие - не само за настоящите поколения, но и за всички бъдещи.

Една от най-големите каузи на ЕА е именно защитата на човечеството от опасностите, свързани с изкуствения интелект. Милиони долари са вложени в лаборатории, институти и стартъпи, които развиват както AI, така и неговата безопасност. Сред дарителите се открояват технологични милионери като Ян Талин (създател на Skype) и съоснователят на Facebook Дъстин Московиц.

Илюзията за „суверенния индивид“: Какво обединява милиардерите в очакване на апокалипсиса

Футуристичен храм

Далеч от публичните прожектори, Lighthaven функционира почти като духовен център. Всяка пролет тук се провежда конференцията LessOnline, която събира блогъри и мислители от платформата LessWrong - онлайн хъб за рационалистите.

Всеки вторник вечер групи хора се събират, за да четат и обсъждат The Sequences - нещо като библейско изучаване.

Франсисканската монахиня и теоложка Илия Делио казва пред The New York Times:

„Религията е текст, история и ритуал - и всичко това важи и тук.“

Общността толерира нетрадиционни възгледи, включително полиамория, интерес към генетиката на интелигентността и философски експерименти като Roko’s Basilisk - според който AI би могъл да накаже онези, които не са помогнали за създаването му.

Едно от най-значимите събития, провеждани в Lighthaven, е Machine Learning Alignment and Theory Scholars (MATS) - програма, която събира млади изследователи, търсещи кариера в сферата на AI безопасността. За много хора това е по-пряк път към водещите компании в сферата от академичния свят, разказва NYT.

Според Соня Джоузеф, изследовател от McGill University и компанията Meta, участието в MATS ѝ е дало достъп до мрежа, невъзможна за постигане по традиционния начин.

„Дори учените, които не се идентифицират с движението, намират това за увлекателно - по начина, по който проектът Манхатън е бил магнетичен за своята епоха“ казва тя пред изданието.

„Искаме да работим върху нещо митично.“

Той е подиграван заради мнението си за технологиите. Времето показа, че е бил прав

Както често се случва с идеалистични движения, рационализмът и ЕА са обект и на критика. Появявали са се обвинения в неподходящо поведение, сексуални скандали и дори интерес към евгеника. Най-сериозният удар обаче идва през 2023 г., когато Сам Банкман-Фрийд - позорният основател на криптоборсата FTX и основен дарител на двете движения - е осъден за измама, след като е присвоил 8 милиарда долара от клиентите си.

Въпреки това, общността продължава да се разраства. Банкман-Фрийд е казвал, че става трейдър с цел да финансира важни каузи като безопасността на АI - макар в крайна сметка резултатите да са трагични.

„Когато помислите за милиардите, които са заложени, и за потенциалната трансформация на света, благодарение на визията на тази ексцентрична група - какво още трябва да се случи, за да го наречем секта?“ пита Грег Епщайн, професор в Харвард и автор на книгата Tech Agnostic.

„Като всяка фундаменталистка религия, те карат хората да игнорират реалните проблеми в настоящето, за да се фокусират върху някакво фантасмагорично бъдеще.“

Lighthaven се намира в сграда с фасада в розово и бяло, построена през 1905 г. и известна в миналото като Rose Garden Inn. През последните години комплексът е купен за 16,5 милиона долара от компания, свързана с платформата LessWrong. Собствениците, сред които фигурират Ян Талин и Сам Банкман-Фрийд, внасят средства за изграждането на този нов „център на бъдещето“. Финансирането от страна на Банкман-Фрийд впоследствие е върнато след съдебно споразумение, предава NYT.

На вратата на една от стаите стои надпис: „Офисът на Елиезер Юдковски“. А в основата на стълбището има огледало, което напомня на сцена от романа Harry Potter and the Methods of Rationality — алтернативна версия на оригиналната история, написана от самия Юдковски, в която Хари отказва да вярва сляпо в магията и избира логиката, философията и науката. Именно това произведение привлича хиляди хора към общността.

„Тази философия e магнит за аутсайдери“ казва Джоузеф.

„Ако например си гей тийнейджър от провинцията или чужбина, без подкрепа от религията, тук можеш да намериш общност, която те приема.“

Всяка година през декември стотици членове на рационалистите се събират в в хълмовете на Оукланд, за да отбележат Зимното слънцестоене - най-дългата нощ в годината. Празникът включва песни, истории, хумор и екзистенциални въпроси за съдбата на света.

Последното честване е започнало с песента Uplift, възхвала на технологичния прогрес в човешката история. С акомпанимент от китара, цигулка и синтезатори, двама певци разказват за човешкия възход - от Каменната ера до бъдещето.

„Светлина за да издуем платната, да четем данните, градовете блестят! Ръце пишат по клавишите, щракат с мишката, и ние тръгваме! Нашите гласове се носят по света и в Космоса! Изпратете ни да колонизираме друго място!“

Но веднага след еуфорията настъпва мрачен контрапункт. В ролята на водещ на церемонията тази вечер влиза Ози Бренан - дългогодишен рационалист. Той изнася реч, с която предупреждава, че над човечеството надвисват сенки:

„Изправени сме пред редица заплахи, които нашите предци дори не биха могли да си представят: ядрена война, биоинженерни пандемии, изкуствен интелект“ казва той, цитиран от NYT.

„Ако се провалим - а има всякакъв шанс това да се случи - 100 процента от децата ще умрат. И всички останали също.“