Стивън Кейв има солиден опит с добрите намерения, които водят по пътищата към Ада.

Развива кариера на висш дипломат в Министерството на външните работи на Великобритания и участва в преговорите за международни споразумения, част от които се провалиха с гръм и трясък и доведоха до Брекзит.

"Познавам последиците от добре замислени глобални събития, които са се объркали", признава той пред TheGuardian.

Опитът му обаче може да се окаже ценен.

Бившият дипломат, който сега е висш академик, е на път да оглави нов институт към Университета в Кеймбридж, който ще изследва всички аспекти на изкуствения интелект в опит да посочи интелектуалните опасности, пред които сме изправени от нарастващото умение на компютрите, и да подчертае положителните му приложения.

Разбирането на опасностите от непредвидени последици би трябвало да е от полза.

"Медиите много акцентират върху това, че изкуственият интелект ще доведе до изчезване на човечеството или до колапс на цивилизацията", казва Кейв. "Тези страхове са преувеличени, но това не означава, че AI няма да причини вреди на обществото, ако не сме внимателни.", смята той.

„Кръстникът на AI” смята технологията за екзистенциален риск за човека Той не отхвърля изкуствения интелект като цяло, но призовава за емпиричен подход към неговото развитие

Възможните опасности включват глобална безработица, тъй като машините заемат работни места в образованието, журналистиката, правото и академичните среди; разпространение на дезинформация; незаконно събиране на лични данни; използване на софтуер за разпознаване на лица за проследяване; както и вредното влияние на чат-ботовете с изкуствен интелект.

Пример за последната опасност беше илюстриран миналата седмица, когато съдът в Обединеното кралство беше уведомен, че чатбот с изкуствен интелект е участвал в насърчаването на Джасвант Сингх Чайл в опита да убие кралица Елизабет II с арбалет, отбелязва TheGuardian.

AI може и да няма апокалиптични последици, но потенциалът му за разрушаване очевидно е значителен.

"Властта се концентрира в ръцете на няколко големи корпорации, които имат монопол върху начина, по който се създава AI", обяснява Елинор Дрейдж, която ще ръководи екип от изследователи в рамките на новия институт. "Това е нещо, от което трябва да се страхуваме, защото може да доведе до злоупотреба с AI.", допълва тя.

Технологичен армагедон: AI уволнява хората в индустрията, която го създадеТехнологичната индустрия е обхваната от страст към изкуствения интелект и инвестира в таланти и технологии, свързани с него

Кеймбриджкият институт за технологии и човечество ще обедини три университетски институции: Центъра за бъдещето на интелекта; Центъра за изследване на екзистенциалния риск, който е посветен на изучаването на всички заплахи, които биха могли да доведат до изчезване на човечеството или цивилизационен колапс; и новосъздадения Център за изкуствен интелект, който ще се фокусира върху намирането на начини за развитие на AI в полза на човечеството.

Създаденият в резултат на това институт, който ще бъде открит по-късно тази година, ще се занимава със заплахите, свързани с AI и ще се съсредоточи върху перспективите му да донесе ползи на света.

Това ще стане чрез съчетаване на широк спектър от таланти - от писатели до компютърни специалисти и от философи до художници, добавя Кейв.

Ключов момент, подчертан от Кейв и Дрейдж, е въздействието на миналите технологични трансформации върху обществата.

Забравете за AI апокалипсис в бъдещето. Опасността е тук и сега Тезата за бъдеще, изпълнено с рискове от изкуствения интелект, измества фокуса от проблемите, които вече създава

Един от основните проблеми, очертани от Дрейдж, е силният превес на мъжете в индустрията на изкуствения интелект.

"Само 22% от специалистите по AI са жени. Няма и никакво медийно насърчаване това да се подобри. В медиите, във филмите, само 8% от учените в областта на AI са представени като жени. На жените се гледа като на хора, които нямат място в тази индустрия.", казва тя пред Observer.

"Това не е тривиален въпрос. Ако жените се изобразяват като такива, които нямат ефективна роля в AI на каквото и да е ниво, тогава продуктите и услугите, които индустрията произвежда, лесно могат да се окажат активно дискриминиращи жените.", допълва тя.

Мелинда Гейтс иска повече женско присъствие в разработването на AIМоделите на AI отдавна са обект на критики заради предразсъдъци, особено по отношение на жените и цветнокожите

Кейв и Дрейдж подчертават, че новият институт в Кеймбридж не само ще предупреждава за AI, но и ще работи за търсене на ползите от него.

"AI ни позволява да виждаме модели в данните, които хората не могат да разберат и това ще има ползи за всякакви области: от откриването на лекарства до подобреното използване на енергията, от персонализираната медицина до повишаването на ефективността на водните култури.

Можем да спечелим много, но и да загубим, ако не сме внимателни.", допълват учените.