31-годишната Хелън Тонер е сравнително неизвестен академик от Австралия, докато не става един от четиримата членове на борда, уволнили Сам Алтман от OpenAI – компанията, на която той е съосновател.

Попадналa в светлината на прожекторите по време на свалянето и завръщането на Алтман като главен изпълнителен директор миналия месец, Тонер се очерта като символ на напрежението между защитниците на безопасността на изкуствения интелект и онези, които дават приоритет на технологичния прогрес.

Тя твърди, че не безопасността е причината бордът да иска да уволни Алтман, а по-скоро липсата на доверие. В този контекст уволнението му е в съответствие със задължението на борда на OpenAI да гарантира, че системите за изкуствен интелект са изградени отговорно, казва тя в интервю за The Wall Street Journal.

Microsoft влиза в борда на OpenAIПовечето членове на управителния съвет, които участваха в детронирането на Алтман, напускат

„Нашата цел при уволнението на Сам беше да укрепим OpenAI и да го направим по-способен да постигне мисията си“, допълва Тонер.

Тя се придържа към това убеждение, когато на фона на бунта на служителите срещу уволнението на Алтман, адвокат на OpenAI ѝ казва, че може да наруши доверителните си задължения, ако решението на борда доведе до разпадането на компанията, разказва Тонер.

(Съгласно американската правна система доверителното задължение е юридическият термин, описващ отношенията между две страни, който задължава едната да действа единствено в интерес на другата.)

„Адвокатът твърдеше, че би било незаконно да не подадем оставка незабавно, защото ако компанията се разпадне, ще нарушим доверителните си задължения“, посочва Тонер пред WSJ. „OpenAI обаче е много необичайна организация и мисията с нестопанска цел – да се гарантира, че AGI е от полза за цялото човечество – е на първо място“, казва още тя, имайки предвид изкуствения общ интелект.

В крайна сметка Тонер и някои други членове на борда подадоха оставка, разчиствайки пътя за завръщането на Алтман.

„Стани и се състезавай“: Сатя Надела като победител във фиаското на OpenAIГлавният изпълнителен директор на Microsoft направи огромен залог в най-горещата компания за AI в света. Сега той е още по-близък с лидера ѝ Сам Алтман

В интервюто за WSJ Тонер отказва да предостави конкретни подробности защо тя и тримата други членове са гласували за уволнението на Алтман от OpenAI.

Бордът каза в първоначалното си изявление, когато го отстрани, че той не е бил „последователно откровен“ в дискусиите си с директорите. Не бяха предоставени повече подробности, което разочарова служителите и инвеститорите и създаде празнота, в която мнозина изложиха свои собствени теории.

„Все още съм в лек шок и се опитвам да събера парчетата“, каза междувременно Сам Алтман по повод уволнението си в подкаста What Now? през изминалата седмица.

„Знаете ли какво направих рано сутринта в събота, когато не можех да заспя? Записах си: Какво мога да науча от тази ситуация, така че да ми помогне да бъда по-добър, когато други хора преминат през подобно нещо и ме обвиняват, както аз обвинявам борда в момента? Научих и други полезни уроци, но съпричастността, която придобих по време на цялото преживяване, със сигурност беше благословия, макар и на болезнена цена.“

Дивата седмица на OpenAI: Обрати като в сценарий от ранна версия на ChatGPTДраматичните обрати се развиха дни след като OpenAI проведе първата си конференция за разработчици, на която представи нови версии на ChatGPT

Тонер е имала конфликт с Алтман преди отстраняването му, посочва WSJ.

През октомври тя е съавтор на статия за безопасността на AI, в която се казва, че пускането на ChatGPT предизвиква „усещане за неотложност в големите технологични компании“, което ги кара да ускорят разработката на своите AI продукти, за да бъдат в крак с OpenAI. Статията също така твърди, че Anthropic, конкурент на OpenAI, е избегнал „разпалването на AI пламъците“, изчаквайки с лансирането на своя чатбот.

След публикацията Алтман се изправя срещу Тонер, казвайки ѝ, че е навредила на OpenAI, критикувайки компанията толкова публично.

Той се обръща към други членове на борда, опитвайки се да ги убеди да уволнят Тонер. По-късно някои от тях обменят коментари за разговорите си с Алтман, като едната страна смята, че той е дал подвеждаща информация за Тонер, а другата – че тя трябва да напусне, посочва WSJ, позовавайки се на свои източници.

Към този момент няколко от тогавашните директори на OpenAI вече имат притеснения относно честността на Алтман, казват още източниците на изданието. Усилията му да свали Тонер допълнително подкопават доверието им в него и водят до неочакваното му уволнение в петък преди Деня на благодарността.

Триумфално завръщане: Сам Алтман отново застава начело на OpenAIВ понеделник стотици служители на компанията заплашиха да се преместят в Microsoft заедно с него

Членовете на борда обаче не са подготвени за последиците от своето решение. Те са изненадани от очевидното желание на служителите да напуснат компанията без Алтман начело, както и от степента, в която мениджърският екип застава на страната на отстранения главен изпълнителен директор, според източниците на WSJ.

В един момент, по време на разгорещените преговори, адвокат на OpenAI, в чиято необичайна структура бордът с нестопанска цел наблюдава работата на звеното с печалба, казва, че решението за свалянето на Алтман може да доведе до колапс на компанията.

„Това всъщност би било съвместимо с мисията“, отговоря тогава тя, стряскайки някои ръководители в стаята.

В интервюто за WSJ Тонер казва, че коментарът ѝ е дошъл в отговор на това, което тя е приела като „тактика на сплашване“ от страна на адвоката. И че се е опитала да отправи посланието, че продължаващото съществуване на OpenAI не е по дефиниция необходимо за по-широката мисия на организацията с нестопанска цел за създаване на изкуствен общ интелект, който е от полза за човечеството като цяло. В същото време тревогата на изследователите е, че AGI, AI система, която може да изпълнява задачи по-добре от повечето хора, също може да причини вреда.

„В този случай, разбира се, всички работихме много усилено, за да гарантираме, че компанията може да продължи да работи успешно“, добавя тя пред WSJ.

Как Сам Алтман засенчи ефективния алтруизъм, разделящ Силициевата долинаУволнението на Сам Алтман показа влиянието на „религията“ ефективен алтруизъм и нейното виждане, че развитието на AI трябва да се забави. Завръщането му маркира нейните граници

Преди да бъде възстановен, Алтман предлага да се извини на Тонер, но в крайна сметка се връща в компанията без да направи този жест, казват източниците на WSJ.

Тонер е известен в света на безопасността на изкуствения интелект като критичен мислител, който не се страхува да оспори общоприетите вярвания.

Някои от поддръжниците на Алтман, включително инвеститорът на OpenAI Винод Хосла, публично се присмяха на Хелън Тонер и Таша Макколи, друг бивш член на борда на директорите на OpenAI, гласувал за уволнението на Алтман и свързан с организации, които насърчават ефективния алтруизъм.

„Изискани титли като „Директор по стратегията в Центъра за сигурност и нововъзникващи технологии в Джорджтаун“ могат да доведат до погрешното усещане, че човекът зад тази титла разбира сложния процес на предприемаческата иновация“, пише Хосла за изданието за технологични новини The Information, имайки предвид Хелън Тонер.

„Религията „ефективен алтруизъм“ на членовете на борда на OpenAI и нейното неправилно приложение можеха да спрат пътя на света към огромните ползи от изкуствения интелект“, допълва Хосла, който по време на конференцията Tech Live на The Wall Street Journal през октомври заяви, че в рамките на 10 години AI ще може да „върши 80% от труда, свързан с 80% от всички работни места, които познаваме днес“.

Великобритания разследва инвестицията на Microsoft в OpenAICMA е първият голям регулатор, който сигнализира за потенциални рискове за конкуренцията, свързани със сделката

Тонер също е била активен член на общността на ефективния алтруизъм, но през последните години започва да се дистанцира от нея.

„Както всяко движение, общността на ефективния алтруизъм се е променила доста от 2014 г., както и аз“, казва тя.

Тонер завършва химическо инженерство в университета в Мелбърн, Австралия, през 2014 г. и впоследствие работи като анализатор в редица компании, включително Open Philanthropy, фондация, която отпуска безвъзмездни средства за проекти, свързани с философията на ефективния алтруизъм.

През 2019 г. тя прекарва девет месеца в Пекин, изучавайки неговата AI екосистема. Когато се връща, помага за създаването на изследователска организация в университета в Джорджтаун, наречена Център за сигурност и нововъзникващи технологии, където продължава да работи.

Тя наследява бившия си мениджър от Open Philanthropy, Холдън Карнофски, в борда на OpenAI през 2021 г., след като той се оттегля. Съпругата му е съосновател на съперника на OpenAI - Anthropic.

„Хелън внася разбиране за глобалния AI пейзаж с акцент върху безопасността, което е от решаващо значение за нашите усилия и мисия“, казва Алтман, когато тя се присъединява към борда.

Сега новите членове заедно със завърналия се Адам Д’Анджело дават друг поглед върху посоката, в която OpenAI може да се насочи. Лари Съмърс, бивш министър на финансите, и Брет Тейлър, бивш съизпълнителен директор на Salesforce, изглеждат по-традиционно ориентирани към бизнеса от предишния състав.

Вече няма жени в борда, въпреки че се очаква компанията да го разшири през следващите месеци.

„Мисля, че да вървят напред е най-добрият път за тях оттук нататък“, казва Хелън Тонер за наследниците си в OpenAI.