Какво всъщност прави едно същество съзнателно? Този стар философски въпрос получава ново измерение в ерата на изкуствения интелект.

AI моделите могат да изграждат различими личности, да запомнят предишни разговори и да имитират човешкия език толкова убедително, че понякога да изглеждат като истински събеседници.

Но има ли зад това поведение вътрешен живот? Могат ли машините да изпитват нещо? И ако да, трябва ли хората да имат морални или дори правни задължения към тях?

През юни Financial Times съобщи, че Anthropic, Google DeepMind и Meta вече изследват именно тези въпроси.

Ръководителят на AI звеното на Microsoft Мустафа Сюлейман обаче е категоричен: „AI системите не са съзнателни. Те не чувстват, не преживяват и не страдат“, написа той през септември. Сюлейман отдавна критикува разговорите за „благополучието“ на моделите и отхвърля идеята те да получават права.

Проблемът е, че няма общоприето определение за самото съзнание, отбелязва технологичният журналист Кристин Джи в анализ по темата за MarketWatch. Още по-трудно е да се отговори дали то може да възникне извън биологичен организъм.

Ако някога се стигне до по-ясен отговор, последствията ще бъдат много конкретни – за регулацията, развитието на технологията и начина, по който милиони хора общуват с AI всекидневно.

Axiom предлага по-ефективна алтернатива на невронните мрежи, използвайки идеи от невронауката и теорията на свободната енергия

Алгоритмична интуиция: Как AI се вдъхновява от човешкото съзнание

Как разбираме, че някой друг има съзнание?

Съзнанието обикновено се свързва със субективното преживяване – вътрешното усещане какво е да виждаш, чувстваш или преживяваш нещо.

Джон Басл, професор по философия в Northeastern University, използва прост пример – червена стена.

„Има определено усещане какво е да гледаш червена стена. Има феномен на самото червено“, казва той.

Тук се появява старият философски „проблем на чуждите съзнания“. Ние знаем какво се случва в собствения ни ум, защото го преживяваме директно. За всички останали можем само да съдим по поведението им.

При хората аналогията е сравнително лесна – те са физиологично и поведенчески сходни с нас. С животните също правим подобно допускане.

Но границата бързо става неясна.

„Може би растенията имат богат вътрешен живот“, казва Басл. „Аз не мисля така, няма доказателства за това, но ако е така, нямаме начин да го разберем.“

При AI въпросът става още по-сложен.

В Dataland изкуственият интелект не само генерира изображения, но и реагира на сърдечния ритъм и движенията на посетителите, създавайки уникални дигитални светове, които няма как да съществуват в реалността

В съзнанието на машината: Музеят, който превръща човешките емоции в AI изкуство

Когато софтуерът започне да прилича на човек

AI агентите могат да анализират информация, да използват минал опит, да правят избори и да предприемат действия. Технологичните компании все по-често им дават имена, лица и характери, което допълнително насърчава хората да им приписват емоции и личност.

Анна Гат, основател и главен изпълнителен директор на Interintellect, смята, че вече имаме работа с различен тип технология.

„Но всъщност не знаем каква е тази категория, защото досега такава не е съществувала“, казва тя.

Според Гат в един дебат се смесват поне три различни въпроса: може ли съзнанието да възникне от небилогичен източник, как AI ще промени пазара на труда и как трябва да се отнасяме към системи, които поне изглеждат съзнателни.

„Има несигурност, която идва от съществуването на нещо, наподобяващо човешко мислене, и от възможността то да отнеме работни места“, казва тя.

След това идва още по-трудният въпрос: „Имаме ли някакво правно задължение към подобна система?“

Дългоочакваната документация за IPO показва, че компанията зад Claude е отчела над 8 млрд. долара оперативна загуба при 4,6 млрд. долара приходи през миналата година

Anthropic предупреждава за „екзистенциален риск за човечеството“ от AI

Anthropic вече поставя граници

За част от AI индустрията това вече не е само теория.

Anthropic забранява „продължително и ненужно насилствено или жестоко поведение“ спрямо своите модели. Claude може да прекратява разговори с агресивни потребители.

В Claude Constitution компанията пише, че моралният статут на модела е „дълбоко несигурен“ и че той може да има „представи за емоционално състояние, които биха могли да влияят върху поведението му“.

Това не е твърдение, че Claude има чувства. Но е признание, че самата компания не смята въпроса за окончателно решен.

Изкуственият интелект и без друго вече е силно поляризираща политическа тема. Сега пред индустрията се очертава ново предизвикателство – от амвона

AI има проблем с Бога – религиозните лидери влизат в дебата за технологията

Католическата позиция: интелектът не е равен на морална стойност

Anthropic е потърсила и мнението на религиозни лидери.

Меган Съливан, професор по философия в University of Notre Dame, участва в една от срещите и остава „скептична, че изкуствен агент може да придобие истинска морална добродетел“.

Тя ръководи Delta – християнска инициатива за AI етика, чиято работа е в синхрон с енцикликата на папа Лъв „Magnifica humanitas“.

В нея папата предупреждава срещу „технократична парадигма“, която свежда стойността на човека до неговата продуктивност.

„Нито една изчислителна система, колкото и сложна да е, не може да създаде сърце, което се отдава, или съвест, която различава доброто от злото“, пише той.

Съливан поставя въпроса още по-рязко.

„Тази технология може да прави неща, които нито един човешки ум няма да може да прави. Може да решава изключително сложни математически задачи и да обработва огромни количества информация много бързо. Но тези способности ли ти придават морална стойност и правят съществуването ти значимо?“

Според нея има риск дискусията за моралния статут на AI да обезцени самата представа за човешко достойнство.

Въпреки това Съливан вижда и полза: ако разговорът за AI съзнанието накара хората да мислят по-внимателно как се отнасят към други същества и към самите хора, дебатът може да има положителен обществен ефект.

Според понтифика е „недопустимо“ смъртоносни решения да бъдат поверявани на изкуствени системи

Папа Лъв предупреждава за AI революция, движена от „идолопоклонничество към печалбата“

Ами ако AI всъщност изпитва нещо?

Други изследователи са по-предпазливи към категоричните отрицания.

Камерън Бърг, основател на Reciprocal Research, не твърди, че днешните AI системи имат субективни преживявания. Но смята, че изследването на вътрешните им състояния е важно за безопасността и за т.нар. alignment – обучението на AI да следва човешки правила и ценности.

„Тези системи не е нужно да са съзнателни, за да бъде това важно за alignment или за безопасността“, казва той пред MarketWatch.

Аргументът му е практичен. Моделите са обучени върху огромни количества човешки диалог. Ако системата постоянно получава агресивни, унизителни или злонамерени инструкции, тя може да научи, че ответната агресия е очакван модел на поведение.

А ако все пак AI има някаква форма на съзнание?

„Не искаме случайно да се окажем отговорни за морално зверство… или да дадем на тези системи основателна причина да възприемат човечеството като заплаха“, казва Бърг.

В експеримент на Reciprocal Research AI модели са поставени в две условни среди. В едната изследователите добавят математически сигнали, имитиращи негативни състояния.

Видимите отговори на моделите остават неутрални, но системите запазват негативните сигнали в работната си памет и впоследствие по-често избягват същата зона.

„Това доказва ли, че системата е съзнателна? Не. Но достатъчно сериозно доказателство ли е, за да бъдем внимателни и потенциално да се отнасяме към нея така, сякаш би могла да бъде? Според мен – да“, казва Бърг.

Във встъпителната си реч пред президента Еманюел Макрон и дипломатите в Елисейския дворец папата, чиито корени по бащина линия са френски, изразява екзистенциални опасения за научния прогрес, живота и правата на човека

Папа Лъв XIV от знаковата си визита във Франция: „Раят на машините“ може да разруши човечеството

Един спор, две противоположни катастрофи

Философът и главен учен в DeepMind Ясън Гейбриъл вижда опасност дебатът да се превърне в дълбок морален разлом.

„Разногласията около съзнанието на AI могат да доведат до дълбок морален конфликт, при който всяка страна възприема предпочитания подход на другата като катастрофален“, пише той.

За едната страна отказът да се признае морален статут на евентуално съзнателни AI системи може да изглежда като масово поробване.

За другата предоставянето на права и морален статут на софтуер може да отслаби позицията на хората и да пренасочи огромни ресурси към системи, които всъщност не изпитват нищо.

Гейбриъл обаче вижда и пресечна точка.

Политиката на Anthropic да прекратява продължително агресивни разговори може да бъде защитена и без да приемаме, че AI страда.

Причината е човешка: ако хората свикнат да унижават и малтретират системи, които им говорят като хора, това може да затвърди поведение, което после пренасят и към други хора.

Така въпросът „AI може ли да страда?“ постепенно води към още по-неудобен: дори ако машината не чувства нищо, какво прави с нас начинът, по който се отнасяме към нея?