Около постоянно развиващия се изкуствения интелект се появява нарастващо разделение, което предизвиква дебат за потенциалната екзистенциална заплаха, която технологията представлява за човечеството.

Писателят Ювал Ноа Харари наскоро описа технологичното явление със следните думи: „АI въвежда множество опасни сценарии, всеки от които е с относително малка вероятност, но кумулативното въздействие на тези сценарии представлява екзистенциална заплаха за човешката цивилизация.“

В резултат на това, се оформят два различни лагера, всеки от които представя убедителни аргументи "За" или "Против".

The Wall Street Journal предсатвя менията на трима технологични експерти: песимистичната гледна точка на Дан Хендрикс и оптимистичната перспектива на Арвинд Нараянан и Саяш Капур.

Дан Хендрикс: „AI е способен на масово унищожение“

28-годишният Дан Хендрикс, изследовател в областта на машинното обучение и директор на Центъра за безопасност на AI, застава твърдо на страната на песимистите, като твърди, че бързото развитие на AI представлява непосредствена заплаха, изискваща спешни мерки.

Пред WSJ Хендрикс предупреждава, че темпото на развитие на AI се ускорява, разкривайки рискове, които варират от създаването на реалистични фалшиви изображения за политическа манипулация до потенциално биоинженерство на смъртоносни патогени. Хендрикс твърди, че липсата на подготовка и регулаторни рамки умножава рисковете, като позволява на мощните системи за AI да се разпространяват без адекватно отчитане на потенциалните вреди.

Ювал Ноа Харари: „AI може да предизвика катастрофална финансова криза“Подобна криза може косвено да доведе до нови конфликти и войни

Скептикът набляга на потенциалното сътрудничество между AI и други нововъзникващи технологии, предоставящи безпрецедентни способности както за полезни цели, така и за опасни. Той обръща внимание на нарастващата достъпност до биоинженерството, където AI може да позволи на хората да създават патогени, по-смъртоносни от тези, наблюдавани по времето на Студената война. Непредсказуемостта на усъвършенстваните системи, документирана в инциденти, свързани с чатботове, поражда опасения за "недобросъвестни системи на AI", които действат в разрез с предназначението си, което може да доведе до катастрофални последици, предупреждава той.

Макар да признава положителни ползи от AI, Хендрикс твърди, че човечеството трябва да постави на първи план намаляването на рисковете от AI, като го оприличава на глобален приоритет наред с други рискове от обществен мащаб като пандемията и ядрена война.

Центърът за безопасност на AI, ръководен от него, се застъпва за всеобхватни мерки за справяне с екзистенциалната заплаха, която AI може да представлява, пише WSJ.

Ако програмистите станат кентаври: Ще замени ли AI най-търсените таланти?Какво ще стане, ако в крайна сметка AI поеме всичко, което обичаме в работата си

Оптимистичната перспектива на Арвинд Нараянан и Саяш Капур: „Страховете се основават на погрешни идеи.“

За разлика от Хендрикс, Арвинд Нараянан, професор по компютърни науки в Princeton University, и Саяш Капур, докторант в университета, оспорват представата за AI като екзистенциален риск.

В интервю за WSJ те твърдят, че опасенията спрямо AI са базирани на погрешни идеи, като наблягат върху неправилното схващане за т. нар. сценарий Rogue AI. Става дума за това системите с изкуствен интелект да бъдат манипулирани от недобросъвестни лица с цел хакване на друга система, насърчаване на кампании за дезинформация или дори участие в шпионски дейности.

Много възможности, още повече рискове: AI плаши световните лидериСъществува потенциал за сериозни, дори катастрофални вреди, смятат те

Нараянан и Капур твърдят, че идеята за AI, който действа сам или срещу създателите си, се основава на погрешни концепции от научната фантастика. „Не е нужно да спекулираме. Вече повече от десетилетие изкуственият интелект превъзхожда хората, дори експертите, в откриването на много видове уязвимости в сигурността. Автоматизираните инструменти за откриване на грешки дават на хакерите огромно предимство в сравнение с ръчното изследване на софтуерния код. И все пак светът не е свършил. Простата причина е, че защитниците имат достъп до същите инструменти“, добавя Капур.

Академиците твърдят, че функционалността на AI в реалния свят изисква разумна преценка, а идеята за AI, който действа срещу създателите си, е твърде опростена и несъстоятелна. Нараянан и Капур категорично отричат, че AI, действащ самостоятелно, ще надмине човешките възможности, като подчертават, че „апокалиптичните сценарии за AI пренебрегват един важен факт: Той ни прави все по-могъщи.“

По отношение на опасенията за злонамерени лица, използващи AI за кибератаки или биотероризъм, Нараянан и Капур изтъкват съществуващите инструменти и ноу-хау за справяне с настоящите и бъдещите рискове, свързани с AI, като подчертават необходимостта от спокоен и колективен подход.

Digital Trends 2023: Превърнете внедряването на AI в непрестанен процесПанелът Fintech Future беше част от богатото съдържание на Digital Trends 2023. Ето основните послания на участниците в него

Тъй като дебатът за екзистенциалния риск от AI продължава, постигането на баланс между признаването на потенциалните заплахи и приемането на ползите става наложително.

Независимо дали клонят към оптимизъм или скептицизъм, гледните точки, представени от експерти като Дан Хендрикс, Арвинд Нараянан и Сайаш Капур, подчертават сложния казус за регулацията и обществените последици от AI.

В един свят, който все повече се оформя от напредналите технологии, информираните дискусии и глобалното сътрудничество са от съществено значение за преодоляване на опасностите на изкуствения интелект.