Изкуственият интелект не е просто инструмент, а агент. За разлика от всички предишни човешки изобретения, той е способен да взема самостоятелни решения, да учи, да създава. Това казва историкът, философ и писател Ювал Ноа Харари в интервю за The Wall Street Journal.

AI се учи от човешкото поведение. Aко лидерите лъжат и мамят, той вероятно ще отрази същите модели на поведение, коментира авторът на „Sapiens“.

Той смята, че влиянието на AI ще нараства стремглаво, като първите големи промени ще се наблюдават във финансирането.

Зараждане на нов вид

„Ние, хората, сме били най-интелигентният вид в продължение на десетки хиляди години, а сега създаваме нещо, което може съвсем скоро да се конкурира с нас“, казва писателят пред WSJ.

По думите му изкуственият интелект може да измисля нови идеи, да се учи и да се променя. „Всички предишни изобретения – от печатната преса до атомната бомба – са инструменти, които ни дават сила, но не действат самостоятелно“, отбелязва Харари. Той допълва:

Печатната преса не може да напише книга сама. Атомната бомба не може да измисли следваща, по-мощна бомба, нито да реши какво да атакува. Но оръжие с изкуствен интелект може самостоятелно да избира цели и да проектира нови поколения оръжия“.

Ювал Ноа Харари: „AI може да предизвика катастрофална финансова криза“

Каквото му покажем – това ще научи

В новата си книга „Nexus“ Ювал Ноа Харари описва AI като бебе, което се учи от възрастните. И твърди, че особено лидерите носят отговорност, защото поведението им ще оформи поведението на изкуствения интелект. „Не можем да очакваме, че ако лъжем и мамим, ще създадем доброжелателен AI“, пише той.

Помолен от WSJ да обясни тази теза, Харари казва:

„Има глобална дискусия по темата за така нареченото съгласуване на AI – как да гарантираме, че тези все по-интелигентни агенти ще действат в полза на човечеството.

Много изследвания се фокусират върху това да „вградим“ в AI определени цели или етични принципи.

Но има два огромни проблема. Първо, самото определение на AI е, че той се учи и променя сам. Дори и да го проектираме по определен начин, той ще прави неща, които не можем да предвидим.

Вторият, още по-голям проблем е, че можем да мислим за AI като за дете. И както знае всеки родител – децата не следват това, което им казваме, а това, което виждат. Ако казвате на детето си да не лъже, но то ви види да лъжете, то ще копира вашето поведение, а не думите ви.

Ако искаме да научим AI да не лъже, но той наблюдава света и вижда как най-влиятелните хора лъжат – той ще приеме това като модел за поведение.“

Ювал Ноа Харари за AI: "За първи път изобретихме нещо, отнемащо силата ни"

Всичко ще се промени

На въпрос какво въздействие ще има изкуственият интелект върху бизнеса след три години, Харари отговаря:

„Представете си, че сме в Лондон през 1835 г. Първата жп линия между Манчестър и Ливърпул е открита преди пет години. Провежда се конференция, на която хората казват: „Това за индустриалната революция е глупост. Имаме влакове вече пет години – и какво това?“

Днес знаем как влаковете и индустриалната революция промениха всичко. Но отне време.

Същото ще се случи с AI – във всички сфери, от очевидните до по-неочевидните. Най-напред ще видим огромни промени във финансите – защото това е изцяло информационна среда. AI ще доминира там много бързо. И когато започне да създава нови финансови инструменти, които човешкият мозък дори не може да проумее, какво правим тогава?“

AI превзема обявите на пазара на труда, но не измества човешкия интелект

По думите на Харари AI има колосален позитивен потенциал, но носи и сериозни рискове. „Не става въпрос за една-единствена система, а за множество различни агенти. Ще има милиони, дори милиарди агенти, създавани от различни компании и държави. А нямаме никакъв опит с общество, в което AI агенти се конкурират помежду си“, отбелязва писателят.

„Не можем да го симулираме. Това ще бъде най-големият социален експеримент в човешката история“, казва още той и използва аналогия с имиграцията:

„Днес хората се тревожат от имигрантите - че ще им вземат работните места, че ще донесат различни култури, че може да имат политически амбиции.

Сега си представете, че AI е вълна от дигитални имигранти, които идват със светкавична скорост. Те не искат визи, нито минават през граници. Но ще завземат работни места, ще променят културата ни, може да търсят власт.

И ако десните партии в Европа наистина се тревожат за суверенитета и културната идентичност, по-добре да се фокусират върху дигиталните имигранти, а не върху човешките.“