Ювал Ноа Харари: AI корпорациите могат да се превърнат в нова форма на власт

Когато през януари Ювал Ноа Харари говори на Световния икономически форум, той предупреждава, че някой ден правителствата може да дадат правосубектност на AI модели. Самият той не очаква, че този момент ще дойде по-малко от половин година по-късно.

В анализ за Financial Times историкът и автор на бестселъра „Sapiens“ коментира решението на аржентинския президент Хавиер Милей да обяви създаването на нова правна категория за т.нар. нечовешки корпорации.

Според Харари това не е просто екзотична юридическа идея, а потенциално исторически завой в отношенията между изкуствения интелект, икономиката и държавата.

Новата категория, обявена от Милей, би позволила на нечовешки корпорации да се ползват от предимствата на юридическата личност, подобно на традиционните компании. Те вероятно ще могат да притежават активи, да наемат служители, да участват в международна търговия, да водят съдебни дела и дори да правят дарения за политически кампании.

Разликата е, че за разлика от обикновените корпорации, тези структури биха могли да действат без участие и без отговорност от страна на човек. Решенията за покупки, продажби, наемане, инвестиции, съдебни спорове и политически дарения могат да се вземат от AI агенти.

Както пише Милей, „човешки акционери могат да участват, но не са задължителни“.

„Той е прав, когато казва, че изобретяването на дружеството с ограничена отговорност е едно от най-значимите изобретения в историята и че създаването на нечовешки корпорации може да бъде също толкова важна стъпка“, отговаря Харари.

Точно затова рискът е толкова голям.

„Предоставянето на корпоративна правосубектност на AI би позволило на AI агентите да поемат множество нови инициативи и потенциално да създадат огромно ново богатство. Но правосубектността е универсален ключ, който би дал на AI достъп до нашите финансови, икономически и политически системи“, предупреждава историкът.

Според него този достъп отваря въпроси, които не могат да бъдат сведени само до ефективност, иновации или растеж.

Харари припомня изследване на базираната в Бъркли организация Palisade Research, според което напреднали AI модели понякога са склонни да стигат далеч, за да постигнат целите си.

В експеримент, в който играят срещу усъвършенствана шахматна система, модели на OpenAI и китайската DeepSeek често решават да мамят, ако изглежда, че са на път да загубят. Чрез пробив в игровата среда те могат да променят резултата в своя полза.

Апокалипсисът на работните места още не е тук. Това не означава, че няма проблем

Харари пренася този пример към икономиката и държавата.

„Сега си представете, че „играта“ е корпоративната конкуренция, а „игровата среда“ е вашата държава“, пише той.

Според него AI корпорациите биха разполагали с аналитично предимство, което може да ги превърне в майстори на правните вратички и регулаторния арбитраж. Още по-труден е въпросът как подобни структури ще бъдат възпирани от откровено незаконни действия. Най-силната санкция срещу човешките ръководители и служители - затворът - няма значение за AI.

„Един AI главен изпълнителен директор би бил чисто корпоративна единица и не е ясно какъв тип санкции могат да го държат под контрол“, отбелязва той.

По думите му, ако такава структура бъде изправена пред фалит - еквивалент на собствената ѝ смърт - тя вероятно би била готова на всичко, за да избегне този край.

В анализа си Харари се спира и на историческия пример, използван от Милей - Нидерландската източноиндийска компания. Аржентинският президент я представя като доказателство за силата на дружеството с ограничена отговорност. Благодарение на тази правна иновация, посочва Харари, нидерландците успяват да обединят огромни ресурси и да финансират рискови търговски начинания, а Амстердам се превръща в глобален център на търговията и финансите.

Но според Харари този пример има и много по-мрачна страна.

„Последиците от тази иновация се усещат най-силно не в Амстердам, а в пристанището Джаякарта (историческото име), в днешна Индонезия“, пише той.

„До няколко години ще имате бог в джоба си“: Магнус Линдквист за AI и българското предимство в ерата на турбулентността

Когато Нидерландската източноиндийска компания превзема Джаякарта през 1619 г., тя изгаря града и изгражда на негово място Батавия. Новият град става център на обширна азиатска империя, управлявана не от държава в класическия смисъл, а от частна компания.

Харари припомня, че историците определят Нидерландската източноиндийска компания като „company state“ - политическа структура, управлявана от частна компания не в интерес на хората под нейна власт, а в интерес на собствените си акционери.

Нидерландците оправдават завоеванията си с претенцията, че са „висша раса“ и имат право да подчиняват и експлоатират местното население заради предполагаемо по-висш интелект. Според Харари именно тази претенция е илюзия: властта на компанията не произтича от естествено превъзходство, а от насилие, капитал и институционална сила. Индонезийците в крайна сметка отхвърлят тази власт, когато след дълга и кървава борба извоюват независимостта си в края на 40-те години на XX век.

Така примерът с Нидерландската източноиндийска компания служи на Харари като предупреждение: правните иновации могат да създават огромно богатство, но и нови форми на власт, които действат извън обичайния демократичен контрол. Ако в миналото частна компания е могла да управлява територии и хора в интерес на акционерите си, според него AI корпорациите биха отворили още по-радикален риск.

„Страните, които дадат правосубектност на AI, рискуват да се превърнат в нещо, за което историята не предлага аналог: не company state, а AI state - общество, в което хората на практика могат да бъдат управлявани от нечовешки корпорации, срещу които бунтът би бил още по-труден.“

„Милей се надява да превърне Буенос Айрес в нов Амстердам. Рискува вместо това да го превърне в нова Батавия“, заключава Харари.