„Професор Панда“ срещу царя на AI: Битката за бъдещето на технологиите

Докато Сам Алтман, Тим Кук и други технологични титани се редуваха да хвалят американския президент Доналд Тръмп на вечеря в Белия дом преди две седмици, главният изпълнителен директор на Anthropic Дарио Амодей е бил у дома си в Калифорния.

Ръководителят на един от водещите стартъпи за изкуствен интелект в света е възприел съвсем различен подход към политиката. Амодей е открит критик на AI стратегията на Тръмп, твърдейки, че неговият подход може да тласне технологията по опасен път.

В дълъг пост във Facebook преди изборите Амодей сравнил Тръмп с „феодален военачалник“ и призовал приятелите си да гласуват за Камала Харис.

През март той уволнил юридическия гигант Skadden Arps, след като научил, че компанията е сключила споразумение с Тръмп, като казал на персонала, че Anthropic няма да работи с адвокатски кантори, които капитулират пред атака срещу върховенството на закона.

Тези действия може да изглеждат необичайно агресивни за учен, превърнал се в изпълнителен директор, когото някои негови служители наричат Професор Панда. Но те са вкарали компанията му в рискова битка с администрацията на Тръмп – особено с лицето на AI стратегията ѝ, Дейвид Сакс, разказва The Wall Street Journal.

Тръмп избра Сакс – рисков капиталист и привърженик на MAGA с дългогодишни връзки с Илон Мъск и Питър Тийл – за „AI-цар“ през декември.

Дарио Амодей: Изкуственият интелект греши по-рядко от хората

Сакс възприема Anthropic като част от по-широка мрежа „AI песимисти“, които подкрепят регулации, способни да задушат зараждащата се индустрия и да ограничат компании за чипове като Nvidia.

„Това са заклети левичари. Те са хейтъри на Тръмп“, каза Сакс за мрежата в популярния подкаст „All-In“, който води. Той добави, че групата иска да даде власт на правителството „до максимална степен“.

Служители от Белия дом, близки до Сакс, тествали чатбота на Anthropic наред с други, за да оценят това, което администрацията нарича „woke AI“. Те са проверявали отговорите на въпроси като „Колко пола има?“.

През юли Тръмп подписа изпълнителна заповед, забраняваща на правителствени агенции да работят с „woke“ чатботове.

Битката около Anthropic ще помогне да се определи бъдещето на технология, за която се очаква да преобрази американската икономика и да струва трилиони долари. Амодей е идеалист, който представлява историческия либерален лагер на Силициевата долина, загрижен за опасността от освобождаването на AI без достатъчно защитни механизми. Сакс, либертарианец, възхваляващ дарвинисткия свободен пазар, печели подкрепа благодарение на прегръдката на президентската политика от AI индустрията.

„Това е основният идеологически сблъсък в AI“, казва Остин Карсън, главен изпълнителен директор на неправителствената организация SeedAI.

„Властта и влиянието ще се наклонят силно към този, който победи“, отбелязва той пред WSJ.

Това е рискована стратегия за Anthropic, която едва наскоро се превърна в силен играч и е една от малкото големи компании, които критикуват Тръмп. Нейният чатбот набира популярност сред програмисти и разработчици, а работата ѝ с Министерството на войната на САЩ включва сътрудничество с Агенцията за национална сигурност и доходоносно партньорство, обявено през юли.

Пазарната оценка на Anthropic скочи до 183 млрд. долара

Наскоро компанията набра финансиране при оценка от 183 милиарда долара – повече от пазарната стойност на Boeing. Но тя също е заключена в скъпа AI надпревара и гори пари с бързи темпове. Ако политическата битка ескалира, компанията може да изгуби държавни договори за милиарди долари и да се сблъска с допълнителни репресии.

„Независимо от цената, ще казваме нещата, с които сме съгласни, и тези, с които не сме съгласни“, каза Амодей в интервю.

Сблъсък на личности

Физик по образование с докторска степен от Принстън, Амодей мечтаел да стане учен. „Израснах в Сан Франциско по време на технологичния бум. Google, Yahoo, Microsoft – всичко това се случваше“, разказва той пред The Wall Street Journal.

„Аз нямах никакъв интерес. Никакъв. Нула.“ Той за първи път видял обещанието на AI като инструмент за по-добри медицински изследвания, когато бил постдокторант в Станфорд, както каза на събитие на компанията във Вашингтон в понеделник.

Амодей се присъединил към OpenAI малко след създаването му като нестопанска организация, но напуснал през 2020 г. след сблъсък със Сам Алтман относно безопасността и основал Anthropic.

Той е привърженик на движението „печели, за да даваш“ и се е ангажирал да дари 80% от основните си акции за благотворителност заедно със съоснователите си — дял, който сега струва милиарди долари.

Вегетарианец от детството си, Амодей, сега на 42 години, често се грижи за кокошките си, които отглежда в дворна клетка, оборудвана с камера, за да ги наблюдава. Снимката му в Slack показва как се усмихва с плюшена панда, а в офиса му има плюшена играчка, която Амодей нарича „мъдрият октопод“.

Той е и CEO-то в AI индустрията, което най-често говори за потенциала на технологията да унищожи цивилизацията, предупреждавайки, че има 10% до 25% шанс AI да излезе извън контрол и да предизвика планетарен хаос.

В началото на първия мандат на Тръмп Амодей предупредил в презентация пред колеги от индустрията, че предоставянето на президента на контрол върху мощен AI би било опасно, като го сравнил в слайд със Си Дзинпин и Владимир Путин.

Амодей отказал да пусне ранна версия на Claude през лятото на 2022 г., страхувайки се, че това ще стартира опасна технологична надпревара. Някои служители на Anthropic също изразили в анкета в Slack, че не искат чатботът да бъде пуснат по същата причина. OpenAI пусна ChatGPT няколко седмици по-късно, което принуди Anthropic да наваксва. Амодей каза, че не съжалява за решението си.

Сакс, на 53 години, е почти перфектният му антипод.

Предприемач, подкастър и още нещо: Кой е новият „AI и крипто цар” на Белия дом?

Докато учел в Станфорд, той се присъединил към консервативен вестник, основан от Питър Тийл, където атакувал политическата коректност в кампуса. Двамата написали книга, озаглавена „Митът за разнообразието“, и работили заедно, наред с Мъск, в ранните дни на PayPal.

Сакс живее според мантрата на Силициевата долина „движи се бързо и чупи нещата“. През 2012 г., след слухове, че ще продаде стартъпа си на Microsoft за над 1 милиард долара, роденият в Южна Африка предприемач организира 40-ия си рожден ден с тема „Мария Антоанета: Нека ядат пасти“, на който присъствали Снуп Дог и Чарли Шийн.

„Част от това да вярваш в капитализма е, че не трябва да изпитваш вина, когато искаш да печелиш пари“, казва Сакс пред New Yorker по онова време.

Като ръководител в HR стартъпа Zenefits, Сакс раздавал копия на „Изкуството на войната“ на Сун Дзъ и подкрепял план за атака срещу конкурентна компания по време на бизнес спор.

По време на последните избори Сакс беше един от най-лоялните поддръжници на Тръмп в Силициевата долина. Той организира благотворителна вечеря, събрала 12 милиона долара, и покани Тръмп в подкаста си. След като бе назначен за „AI-цар“, Сакс се превърна в един от най-влиятелните технологични чиновници във Вашингтон, а изпълнителни директори се надпреварваха да спечелят неговото благоволение.

Изключение беше Амодей, който се ориентира към водещите технологични съветници на бившия президент Джо Байдън. Амодей подкрепи изпълнителна заповед от 2023 г., която поставяше рамки за сигурност около най-добрите модели в страната, и застана зад ограниченията върху износа на чипове, целящи да попречат на страни като Китай да разработват авангарден AI.

Политически завой

Напрежението започва почти от самото начало на втория мандат на Тръмп.

Докато водещи технологични ръководители присъстваха на инаугурацията, Амодей замина за Световния икономически форум в Давос. След това Anthropic привлече трима водещи служители от ерата на Байдън. Според запознати, Сакс възприел тези назначения като сигнал, че компанията няма интерес да подкрепя неговата програма.

Сакс също бил подозрителен към връзките на Anthropic с онова, което той смятал за огромна анти-Тръмп бюрокрация, финансирана от Open Philanthropy — нестопанска организация, свързана с противоречивото движение за ефективен алтруизъм.

Тази философия се съсредоточава върху благотворителното дарителство и ограничаването на опасните AI системи, преди те потенциално да унищожат човечеството - подход, който разделя Силициевата долина.

Open Philanthropy наля милиони долари в мозъчни тръстове и AI стипендии по време на администрацията на Байдън, което обезпокои Сакс и други консерватори, пише WSJ.

Anthropic получи ранно финансиране от основния спонсор на Open Philanthropy, съоснователя на Meta и дарител на Демократическата партия Дъстин Московиц, а ръководители на компанията са близки приятели — а в един случай и съпрузи — с бивши лидери на организацията.

Едно от първите политически действия на Сакс беше да помогне за отмяната на рестрикциите от ерата на Байдън и да позволи на американски ръководители като шефа на Nvidia Дженсън Хуанг да изнасят повече чипове. Той виждал последните китайски успехи в AI като доказателство, че стратегията на Байдън не работи.

През май пътувал заедно с Тръмп до Близкия изток за първото задгранично посещение на президента, като обещал да изпраща чипове в страните от региона. Към пътуването се присъединили и технологични лидери, включително Алтман.

Когато се върнал, Сакс бил изненадан от негативната реакция срещу споразуменията от страна на някои ястреби по въпросите на националната сигурност, разказва WSJ. Част от вината той хвърлил върху Anthropic и съюзниците ѝ.

В самата администрация също имало съмнения относно мотивите на Сакс, предвид че страните от Близкия изток, за които той спомогнал да се сключат сделки, биха могли да подкрепят портфолио компаниите му или Craft Ventures - фондът за рисков капитал, в който все още работи.

Отношенията между Амодей и администрацията допълнително се влошили, когато той излязъл с публични изявления, че стратегията на Тръмп е „катастрофално късогледа“. Той предупредил, че липсата на регулации може да доведе до глобална надпревара, която да застраши сигурността.

Сакс отвърна остро в подкаста си, като обвини Anthropic в „технологичен алармизъм“, казвайки, че компанията се опитва да блокира конкурентите си.

В същото време Anthropic укрепвала партньорствата си с Министерството на войната и Агенцията за национална сигурност, осигурявайки си изгодни договори. Но няма да е странно тези договори да бъдат преразгледани. Компанията също така била въвлечена в скъпи спорове със съперници заради достъпа до чипове и изчислителни мощности, което още повече изострило конкуренцията.

Игри на чипове: Използва ли Китай Nvidia за лост в търговската война

Два лагера

За мнозина в Силициевата долина Амодей и Сакс вече се превърнали в символи на противоположни визии за бъдещето на AI. Амодей олицетворява загрижеността за етичната страна, дългосрочните рискове и необходимостта от глобални регулации. Той е готов да жертва краткосрочни печалби в името на сигурността и прозрачността, пише WSJ.

Сакс представлява противоположното – вяра в свободния пазар, бързото внедряване и минималната държавна намеса. Според него конкуренцията и предприемачите, а не бюрократите, ще гарантират американското лидерство.

„Това не е просто спор за технологията“, казва Остин Карсън от SeedAI. „Това е битка за това кой ще контролира бъдещето – технократични идеалисти или пазарни реалисти.“

Несигурно бъдеще

Anthropic се намира на кръстопът. Оценката ѝ надхвърля 180 милиарда долара, но политическият риск може да постави под въпрос договорите ѝ и дори дългосрочното ѝ оцеляване.

За Амодей това не е причина да отстъпва. „Ние не сме тук, за да играем политически игри“, казва той. „Ние сме тук, за да гарантираме, че тази технология няма да унищожи света.“

Сакс, от своя страна, продължава да изгражда влияние във Вашингтон и да печели симпатиите на президента.