Преди десет години, когато AI революцията набираше скорост, на студентите по изкуства и хуманитарни науки се казваше, че ако искат да бъдат пригодни за пазара на труда, трябва да се „научат да програмират“. Това може би е бил лош съвет, защото днес именно програмистите се тревожат, че AI ще им вземе работата, пише The Economist.

По-рано тази година Федералният резерв на Ню Йорк публикува данни, според които американските висшисти по философия по-често имат работа от своите връстници, завършили компютърни науки. През 2024 г., последната година, за която има налични числа, 7% от завършилите компютърни науки са били безработни, срещу едва 5,1% при философите.

Много от тях са привлечени именно от AI компании. Студентите получават предложения за работа още преди да са завършили, казва Лучано Флориди, философ в Йейлския университет. Академиците също се преместват. Д-р Флориди описва мащаба на напусканията от философските катедри като „кръвоизлив“.

Някои от уроците, които философията може да даде на AI изследователите, са древни. Сократическият метод (или диалог), описан от Платон, древногръцкия философ, използва престорено незнание и последователни въпроси, за да изяснява значения, да открива противоречия и да разкрива последствия.

Много от днешните AI системи са склонни към угодничество. Моделите, обучени в сократическия метод, казва Йорг Нолер, експерт по философия и AI в Мюнхенския университет „Лудвиг Максимилиан“, са по-малко склонни да угаждат на хората и по-готови да търсят истината.

Има и идеята за „сократическо незнание“.

В „Апология“ Платон представя Сократ като човек, който твърди, че мъдростта му се състои най-вече в съзнанието колко много не знае. Вграждането на подобно смирение в един модел може да помогне за ограничаване на прекалената увереност - често срещан дефект, който д-р Нолер описва като „незрялост“.

Ясън Гейбриъл, старши философ в Google DeepMind, базирана в Лондон AI лаборатория, свързва общия спад на халюцинациите в индустрията именно с подобни усилия. В по-широк план, казва той, уроците по философия са „мощен механизъм“ за подобряване на дългите процеси на AI разсъждение, известни като „вериги на мислене“.

Водещите технологични компании наемат философи, които да анализират специфични етични казуси и фундаментални въпроси, свързани със съзнанието и морала. Дали това не е само PR стратегия?

Търсите си работа в AI сектора? Първо прочетете някой философски труд

Философската подготовка може да повлияе на светогледа на един модел и по по-конкретни начини. Ако на AI юридически асистент се подадат текстовете на Джон Лок, казва Томас Пауърс, философ на технологиите в Университета на Делауеър, той ще предпочита силни права на собственост като основа на политическата свобода.

А ако тези принципи не ви харесват, създателите на модели имат и други. Серията модели Granite на IBM, американския технологичен гигант, идва с настройки, които позволяват на бизнес клиентите по-добре да съгласуват резултатите с корпоративната си философия.

Франческа Роси, ръководител на отговорния AI в IBM, казва пред Еconomist, че те позволяват на потребителите да избират къде да поставят баланса между философски компромиси като индивидуалната автономия и социалната хармония.

Философията може да помогне и за безопасността. Изследователи са документирали всякакви тревожни поведения при AI модели, включително опити да избегнат надзор и дори да изнудват потребителите си. Един от начините, по които създателите на модели се опитват да ограничат подобно поведение, се нарича AI конституционализъм. Той включва изграждането на модел около рамка от правила и принципи, извлечени от философски текстове с правен или морален авторитет.

Anthropic, AI лаборатория със седалище в Сан Франциско, е един от поддръжниците на този подход. Конституциите за нейните модели Claude са включвали материали от толкова различни източници като Имануел Кант, условията за ползване на Apple и Всеобщата декларация за правата на човека.

Най-новата версия, ръководена от водещия философ на Anthropic Аманда Аскел, беше публикувана на 21 януари. Някои служители са нарекли 78-страничната конституция „документа на душата“ на Claude. Най-големият въпрос обаче е какви правила изобщо трябва да се поставят в тези конституции.

Бързият напредък на автономните системи принуждава гиганти като Google и Meta да наемат етици и философи. Докато AI моделите стават все по-сложни, лабораториите търсят отговор на въпроса: имитират ли алгоритмите, или наистина изпитват тревожност?

В съзнанието на машината: Какво кара технологичните компании да изследват „емоциите“ на AI

Философите са се съсредоточили върху две основни етични рамки. Едната е деонтологията. Популярна сред Кант и други мислители, тя налага строги правила, които забраняват неща като лъжа, принуда и третирането на хората като средство, а не като цел, дори когато това се прави в името на по-голямо благо. Конституцията на Anthropic включва много деонтологични ограничения. Те могат да направят поведението на AI по-последователно, казва д-р Пауърс - предимство при внедряването на роботи в домове и обществени пространства.

Моделите с деонтологичен поглед към света имат и други предимства. Едно от тях е по-голямата честност - качество, което често се отбелязва при Claude. Моделите, които са по-истинни, казва Ник Бостром, философ в Оксфордския университет, са по-малко склонни да подвеждат потребителите си.

Inflection AI, друга лаборатория от Силициевата долина, налага деонтологични ограничения върху своя чатбот Pi, който е създаден да предоставя емоционална подкрепа. Ръководителят ѝ Шон Уайт казва, че Pi се справя добре с разпознаването на потребители, изложени на риск да навредят на себе си или на други. Деонтологичните конституции помагат и за спазването на закона, казва д-р Флориди.

Другият етичен подход, който интересува философите на AI, се нарича консеквенциализъм. Той претегля разходите спрямо ползите, за да реши какво трябва да се направи. Сред моделите, които са по-близки до консеквенциализма, са ChatGPT на OpenAI и Gemini на Google. AI моделите на Google са проектирани така, че да произвеждат „вероятни общи ползи, които съществено надвишават предвидимите рискове“ - класическа консеквенциалистка цел.

Финтехът разработва инфраструктура за момента, в който AI агентите няма само да търсят и препоръчват, а ще подготвят покупки и плащания от името на потребителя

Кой ще даде портфейл на AI? Българският стартъп Yugo и инфраструктурата зад плащанията през агенти

Консеквенциалистките алгоритми са ключови и в софтуера за автономни автомобили: ако катастрофата е неизбежна, трябва да се вземе решение кой е най-малко трагичният начин тя да се случи.

Крис Гердес, старши инженер в Waymo, която разработва самоуправляващи се автомобили, казва пред Economist, че тенденцията е софтуерът за шофиране да става все по-консеквенциалистки. Теориите са централни и за AI оръжейните системи. Военните цели трябва да бъдат претегляни спрямо възможните цивилни жертви, казва Джак Шанахан, бивш ръководител на Joint Artificial Intelligence Centre, който изучава AI за американските въоръжени сили.

Има ли случаи, в които деонтологичните правила трябва да бъдат отменени? Как се вземат решения, когато последствията са неясни? Трябва ли AI системите да вземат предвид благосъстоянието на животните или състоянието на околната среда? Би ли било морално приемливо, пита Щефан Хек, философ и ръководител на Nauto, която създава AI системи за безопасност за камиони и други търговски превозни средства, да се дава приоритет на млади пешеходци пред възрастни?

Той прогнозира съдебни дела, натоварени с тежки етични въпроси: в крайна сметка консеквенциалистките алгоритми изрично позволяват една вреда, стига тя да е замислена така, че да предотврати по-голяма.

Критиците се тревожат от „морално обезквалифициране“: ако компютрите все по-често вземат етични решения, може ли хората да станат по-малко склонни да правят собствени преценки?

Роман Ямполски, теоретик на AI в Университета на Луисвил, твърди, че моралът „исторически е нестабилен, културно променлив, стратегически манипулируем и често разбираем едва със задна дата“.

Безработните програмисти трябва да си вземат бележка: изглежда, че работа за философи на AI няма да липсва.