Илон Мъск е сигурен, че рискът от изкуствен интелект си заслужава, дори ако има шанс 1 към 5 технологията да се обърне срещу хората. Говорейки на семинара "Great AI Debate" по време на четиридневната среща на върха Abundance Summit по-рано този месец, Мъск преизчисли предишната си оценка на риска за технологията, като каза: "Мисля, че има някакъв шанс тя да сложи край на човечеството. Вероятно съм съгласен с Джеф Хинтън, че той е около 20%, или нещо подобно".

Но той добави: "Мисля, че вероятният положителен сценарий надделява над отрицателния". Мъск така и не спомена как е изчислил риска.

Вероятността за гибел

Може ли произведение на изкуствен интелект да бъде изкуство, е въпрос, който няма единодушен отговор сред творците и галериите

Страшно и вълнуващо: Как художниците използват AI, за да творят

Роман Ямполски, изследовател на безопасността на изкуствения интелект и директор на Лабораторията за киберсигурност в Университета в Луисвил, казва пред Business Insider, че Мъск е прав, като си мисли, че AI може да представлява екзистенциален риск за човечеството, като дори е "прекалено консервативен" в оценката си.

"Действителното p(doom) според мен е много по-високо", казва Ямплоски, като се позовава на измерителя “probability of doom” или вероятността AI да поеме контрола над човечеството и да предизвика събитие, което да сложи неговия край. Най-често срещаните теории са способността на технологията да създаде ново биологично оръжие, както и предизвикване на колапс на обществото вследствие на мащабна кибератака или ядрена война.

New York Times описва p(doom) като "болезнената нова статистика, която обхваща Силициевата долина", като различни технологични ръководители, цитирани от изданието, имат оценки, вариращи от 5 до 50% вероятност за AI апокалипсис. Според Ямплоски шансът за това е по-скоро "99,999999%".

“Тъй като е невъзможно да контролираме напредналия изкуствен интелект, единствената ни надежда е да не го развиваме”, отбелязва той. "Не съм сигурен защо Мъск смята, че е добра идея да се преследва тази технология. Ако той се притеснява, че конкурентите ще го изпреварят, това няма значение, тъй като неконтролираният свръхинтелект е еднакво лош за всички, независимо кой пръв ще го накара да се появи."

Въпреки че AI инструментите имат способността да пишат всякакви неща, те все още не могат да разберат напълно основната реалност на отговорите си

Тъмната страна на AI: Как да се справим с халюцинациите на чатботовете

Богоподобие

През ноември миналата година Мъск заяви, че има "не нулев" шанс технологията да се окаже "лоша", но не стигна дотам да каже, че ако това се случи, технологията може да доведе до края на човечеството.

Въпреки че е привърженик на AI регулацията, миналата година Мъск основа компания, наречена xAI, посветена на по-нататъшното разширяване на технологията. По време на срещата на върха той изчисли, че до 2030 г. дигиталната интелигентност ще надмине човешките способности.

Макар да твърди, че потенциалните позитиви са повече от негативите, Мъск призна риска за света, ако развитието на AI продължи по сегашната си траектория, с едни от най-директните думи, които е използвал публично.

Мениджърите все повече поставят перспективата на новите технологии срещу служители, от които не са доволни или се очаква да получат повишение на заплатата

Евтин AI вместо скъп човешки труд: Каква цена ще платят директорите за тази мечта

"AGI (изкуственият общ интелект) е почти като да отгледаш дете, но такова, което е като супергений - с богоподобна интелигентност", каза Мъск на събитие в Силициевата долина на 19 март. "Едно от нещата, които смятам, че са изключително важни за безопасността на АI, е той да стане максимално своеобразен, търсещ истината и любопитен ."

Мъск заяви, че неговото "крайно заключение" относно най-добрия начин за постигане на безопасност е AI да се развие по начин, който го принуждава да бъде справедлив.

"Не го принуждавайте да лъже, дори и истината да е неприятна", каза той.

Според някои изследователи, след като изкуственият интелект се научи да лъже хората, измамното поведение е невъзможно да се обърне с помощта на настоящите мерки за безопасност. Още по-обезпокоително е, че те добавят, че е възможно технологията сама да се научи да заблуждава, без да бъде обучавана от човек.

"Ако стане много по-умен от нас, той ще бъде много добър в манипулирането, защото ще се е научил на това от нас", казва пред CNN Джеф Хинтън, често наричан "Кръстникът на AI", който служи на Мъск като основа на неговата оценка за риска от технологията.

"Има много малко примери за нещо, което да бъде контролирано от по-малко интелигентно нещо."