Папа Лъв призова за строги регулации върху изкуствения интелект и ограничения върху използването му във война, предупреждавайки за опасностите от технологична революция, движена от „идолопоклонничество към печалбата“.

В първата си енциклика след избирането си за папа миналата година Лъв остро критикува използването на AI във военни конфликти. Технологията вече е била използвана по време на кампанията на президента на САЩ Доналд Тръмп срещу Иран за подобряване на военните решения.

„Не е допустимо смъртоносни или необратими решения да бъдат поверявани на изкуствени системи“, заявява роденият в САЩ папа пред 1.4 милиарда католици по света. Той настоява за „ясна и проверима“ верига на отговорност и за „ефективен, осъзнат и отговорен човешки контрол“ върху решенията за военни удари.

„Когато решението за атака стане автоматизирано или непрозрачно, рискът от отказ от отговорност нараства“, пише той в енцикликата Magnifica Humanitas, смятана за авторитетно морално учение по съвременни въпроси.

„Всички системи, използвани във военна среда, трябва да гарантират възможност за проследяване и възстановяване на процеса на вземане на решения, така че отговорността и вината да не бъдат прехвърляни върху „машината““, пише още Папа Лъв в енцикликата.

С усилването на критиките си срещу войната с Иран, папата – благодарение на американския си произход – придобива роля в политиката на САЩ, каквато никой негов предшественик не е имал

Лъв срещу Тръмп: Как папата се превърна в безстрашен противник на американския президент

Тя идва след като папата публично разкритикува американската кампания срещу Иран – позиция, която разгневи Тръмп и предизвика остър спор между Ватикана и Вашингтон.

Вицепрезидентът на САЩ Джей Ди Ванс и министърът на отбраната Пийт Хегсет се опитаха да защитят атаката срещу Иран като съвместима с християнството, позовавайки се на католическата теория за „справедливата война“. Ватиканът обаче отхвърли тази теза, а папата отново я оспорва и в енцикликата.

„Без да се отрича правото на самозащита в най-строгия смисъл, важно е да се признае, че теорията за „справедливата война“, която твърде често е използвана за оправдание на всякакви войни, вече е остаряла“, пише папа Лъв.

Той предупреждава още, че „непрозрачните алгоритми“, контролирани от могъщи частни компании, създават „нови форми на дехуманизация“. Според него правителствата и обществото трябва съзнателно да ограничават негативните ефекти на AI в сфери като образованието, пазара на труда и човешките отношения.

„Технологията сама по себе си не е решение на проблемите на човечеството, както не е и по природа зло. На практика обаче технологията никога не е неутрална, защото придобива характеристиките на онези, които я създават, финансират, регулират и използват“, пише папата.

На 25 май понтификът ще представи официален документ с фокус конкретно върху това как технологията променя хората и работната среда

Magnifica Humanitas: Папата и съоснователят на Anthropic обединяват усилия за AI етиката

Критикувайки трансхуманистичните и постхуманистичните идеи на влиятелни фигури от Силициевата долина като Питър Тийл и Илон Мъск, папата заявява, че AI се развива в интелектуална среда, в която някои хора се смятат за „по-малко полезни, по-малко желани и по-малко достойни“.

Той настоява за „прозрачност и отчетност“ при всички AI инструменти, използвани в обществения живот, за да бъдат защитени хората от ограничаване на потенциала им от машини.

„Когато данни и алгоритми влияят върху разпределението на кредити, подбора на служители или достъпа до услуги и възможности, е необходимо решенията да бъдат разбираеми, оспорими и подлежащи на контрол, така че хората да не бъдат сведени до обикновени профили“, пише папата.

Той предупреждава и за способността на AI да симулира съпричастност и разбиране, „създавайки илюзия за връзка с истински човек“, което може да доведе до постепенното изгубване на желанието за реални човешки отношения.

Ватиканът работи с експерти по етика на изкуствения интелект и технолози от водещи компании в Силициевата долина повече от десетилетие, опитвайки се да разбере технология, която според Светия престол може да отключи както най-доброто, така и най-лошото в човечеството.