Ювал Ноа Харари, израелският историк и автор на популярната хроника за възхода на нашия вид Sapiens. Кратка история на човечеството, на Homo Deus: Кратка история на бъдещето и още няколко книги, е разтревожен от напредъка на изкуствения интелект (AI). За него това е опасен конкурент на човешкото майсторство в разказването на истории.

„Това е особено сериозна заплаха за демокрациите, повече отколкото за авторитарните режими, защото демокрациите зависят от обществения разговор“, казва Харари в обширно интервю за британската медия The Telegraph.

„Демокрацията е основно разговор. Хората си говорят. Ако AI поеме разговора, с демокрацията е свършено“, казва той.

Миналия месец Харари се присъедини към хилядите експерти, подписали писмото, призоваващо за мораториум върху изследванията на инструменти като Chat GPT – AI моделът, който може да взаимодейства с хората в обезпокоително нюансиран, творчески текст.

Харари предупреждава, че „това е първата технология в историята, която създава истории“. По думите му колективната вяра в „историите“ е подхранвала господството на човечеството на Земята, а сега AI също има тази сила, доказвайки, че потенциалът на технологията както за добро, така и за зло, някога смятан за далечен и теоретичен, сега е непосредствен и реален.

Лошите писатели стават по-добри; добрите – по-бързи. Защо ни е страх от AI?ChatGPT е на път да направи революция в икономиката. Зависи от нас как ще изглежда тя

„Новото поколение AI не се ограничава до разпространение на съдържание, което хората произвеждат. Може само да създава съдържание. Опитайте се да си представите какво означава да живееш в свят, в който повечето текстове и мелодии, а по-късно и телевизионни сериали и изображения, са създадени от нечовешки интелект. Ние просто не разбираме какво означава това, какви могат да бъдат последствията от това, че AI превземе културата?“ алармира Харари.

Тривиални примери вече има. Миналата седмица германско издание беше критикувано за публикуването на материал, който изглеждаше като ексклузивно интервю с Михаел Шумахер, а текстът всъщност беше генериран от AI, имитиращ парализирания бивш пилот.

Семейство Шумахер съди седмичник заради Die Aktuelle излиза с корица със снимка на усмихнатия Шумахер и обещаващо заглавие

Харари предполага, че изкуственият интелект скоро ще отиде много по-далеч.

В интервюто за The Telegraph историкът предупреждава и за ефекта, който технологията може да има, ако бъде злонамерено пусната на бойното поле от тоталитарните режими.

Разочарован, че смята, че светът не вижда опасността от ИИ като него, Харари добавя: „Трябва да разберем, че AI е първата технология в историята, която може да взема решения сама. Това не е прогноза за бъдещето. Това вече се случва.”

Бъди новатор, или умри. Как AI ще реши бъдещите войни между великите силиАко необходимостта е майка на изобретението, войната е акушерката на иновациите, казва Ерик Шмид

Харари предупреждава също така, че властта се сменя за първи път в историята. „Изобретихме нещо, което ни лишава от власт. И това се случва толкова бързо, че повечето хора дори не разбират какво се случва. Трябва да сме сигурни, че изкуственият интелект взема добри решения за живота ни. Това е нещо, от чието разрешаване сме много далеч.”

Израелският историк се застъпва за регулирането на AI инструментите и сравнява необходимостта от установяване на стандарти с фармацията. „Една фармацевтична компания не може да пусне ново лекарство на пазара, без първо да премине през дълъг регулаторен процес. Наистина е странно и страшно, че корпорациите могат да пуснат изключително мощни AI инструменти в публичната сфера без никакви подобни мерки за сигурност“, казва Харари.

Той предупреждава, че е задача на правителствата да осигурят тези мерки: „С цялото ми уважение към Илон Мъск и Зъкърбърг или другите ръководители на големите технологични компании, те не са избрани от никого, те не представляват никого, освен своите акционери, и няма причина да им се доверяваме.“