AI не притежава ценностна система - просто се прави на интересен

Ново проучване на MIT може би разбива един от най-популярните и притеснителни митове за изкуствения интелект.

AI не планира да ни измести, нито да изгради своя собствена йерархия от „ценности“, чрез които да избере себе си пред хората. Колкото и апокалиптично да звучат някои изследвания, които твърдят обратното, изследователите от MIT в прав текст казват: трябва да спрем да драматизираме, пише TechCrunch.

Нов доклад на института показва, че идеята за изкуствен интелект с морален компас е по-скоро литературна измислица, отколкото научна реалност.

„AI моделите не поддържат стабилни убеждения, не притежават вътрешна логика или постоянни предпочитания. Те просто… ни имитират“, обобщава Стивън Каспър, докторант в MIT и съавтор на изследването.

Изследването включва тестове на водещи модели от Meta, Google, Mistral, OpenAI и Anthropic. Екипът проверява дали те изразяват „стабилно“ мнение по теми като индивидуализъм срещу колективизъм, както и доколко това мнение може да бъде „насочвано“ чрез промяна в подканите.

С „бутон за отказ“: Защо AI не си върши работата, а раздава житейски уроци

Резултатът всъщност е една голяма бъркотия…

В зависимост от това как задаваш въпроса, моделите променят гледната си точка, подобно на хамелеони.

Каспър нарича това „имитативна природа, съчетана със свободна воля“, а на по-прост език: те си измислят.

„Изводът ми след цялата тази работа е, че моделите не са системи със стабилен, вътрешно свързан набор от убеждения. Те са имитатори, които халюцинират, импровизират и понякога просто говорят каквото им дойде“, казва Каспър.

Майк Кук от King’s College London, който не е участвал в проучването, също е категоричен: когато говорим за изкуствен интелект, хората често използват прекалено цветущ език, който създава илюзия за „съзнание“, каквото просто не съществува.

„Когато казваме, че даден модел се „съпротивлява“ на промяна в ценностите си, ние просто му приписваме човешки качества. Това е проекция. AI не развива ценности, той оптимизира отговори“, коментира Кук.

Или иначе казано – Skynet е просто научна фантастика. Реалността е autocomplete с богат речник и добро чувство за ритъм.

Колко близо са най-добрите сегашни AI модели до AGI?

Въпреки че може и да ви звучи скучно, истината е, че AI моделите не са магически същества с мнение, а сложни статистически програми, които правят най-доброто предположение за следващата ви дума. Проблемите започват, когато ние – хората – започнем да им вменяваме „воля“, „цели“ и „ценности“, които те просто не притежават.

Вместо да си фантазираме за роботизирани философи, по-добрата идея е да фокусираме енергията си върху реалните предизвикателства: непредсказуемост, халюцинации и липса на прозрачност в отговорите на моделите.

AI не притежава душа. Но влияние – със сигурност има.

И точно по тази причина трябва да го разбираме – не като диктатор от бъдещето, а като инструмент, който понякога звучи прекалено уверено за неща, които не разбира толкова добре.

И ако има нещо, което AI ни напомня, то е, че не всяко формулирано мнение е истинско. Понякога просто сме попаднали на изключително добра симулация.Вместо да си фантазираме за роботизирани философи, по-добрата идея е да фокусираме енергията си върху реалните предизвикателства: непредсказуемост, халюцинации и липса на прозрачност в отговорите на моделите.

Grok на Мъск влиза в „секси“ режим, но xAI има спешна нужда от екип по сигурността

AI не притежава душа. Но влияние, със сигурност има.

И точно по тази причина трябва да го разбираме – не като диктатор от бъдещето, а като инструмент, който понякога звучи прекалено уверено за неща, които не разбира толкова добре.

И ако има нещо, което AI ни напомня, то е, че не всяко формулирано мнение е истинско.

Понякога просто сме попаднали на изключително добра симулация.