"Може би в момента създаваме свят, в който няма да е безопасно да излезеш навън, защото там може да те преследват рояци роботи."

Това зловещо предупреждение отправя Джаан Талин, инженер-основател на Skype, в неотдавнашно видеоинтервю за Al Jazeera.

Програмистът е основател на Центъра за изследване на екзистенциалния риск в Кеймбридж и на Института за бъдещето на живота – организации, посветени на изучаването и намаляването на екзистенциалните рискове, особено на тези от развитието на технологиите с изкуствен интелект, пише Insider.

Препратката на Талин към роботите убийци е асоциация с късометражния филм Slaughterbots от 2017 г., който беше пуснат от Института за бъдещето на живота като част от кампания, предупреждаваща за опасностите от въоръжения изкуствен интелект.

Филмът разказва за мрачно бъдеще, в което светът е завладян от милитаризирани дронове-убийци, задвижвани от изкуствен интелект.

Най-мощните военни сили в света за 2023 г.Отчетени са фактори като военно оборудване и войски, с които разполагат държавите, както и финансово състояние, географско положение и ресурси

С развитието на технологиите за AI, Талин се опасява най-вече от последиците, които военната употреба може да има за бъдещето на изкуствения интелект.

"Използването на AI във военната сфера затруднява контролирането на траекторията му, защото в този момент се намираме в надпревара във въоръжаването.

Когато сте в такава ситуация, нямате много възможности за маневри, особено ако става дума как да подходите към тази нова технология. Просто трябва да отидете там, където са възможностите и където е стратегическото предимство.", обяснява Талин.

"Естествената еволюция на напълно автоматизираната война ще представлява рояци от миниатюрни безпилотни самолети, които всеки, с достатъчно финансови възможности, може да притежава и да пуска без да поема отговорност."

„Кръстникът на AI” смята технологията за екзистенциален риск за човека Той не отхвърля изкуствения интелект като цяло, но призовава за емпиричен подход към неговото развитие

Институтът за бъдещето на живота е съгласен с предупрежденията на Талин. Нещо повече – тези опасения не са нови и съществуват от години.

Организацията датира от почти десетилетие и бързо привлича вниманието на личности като Илон Мъск, който през 2015 г. дарява 10 млн. долара на института.

Но напоследък въпросът за могъщата сила на тази технология е много по-належащ, най-вече след пускането на ChatGPT и други модели на изкуствен интелект, достъпни за обществеността, както и с опасенията, че изкуственият интелект ще превземе работните места на хората.

Над 1000 експерти, водени от Мъск, искат пауза в разработката на AI В отворено писмо те посочват потенциалните рискове за обществото и човечеството като цяло

Сега изследователи на AI, технологични магнати, известни личности и обикновени хора са сериозно притеснени. Дори режисьорът на "Опенхаймер" Кристофър Нолан предупреди, че AI може да достигне своя "момент на Опенхаймер".

С други думи, изследователите поставят под въпрос своята отговорност за разработването на технологии, които могат да имат непредвидени последици, допълва Insider. Изданието припомня, че по-рано тази година стотици технологични лидери, сред които Илон Мъск, съоснователят на Apple Стив Возняк, изследователи от лабораторията за изкуствен интелект DeepMind на Alphabet и известни професори по изкуствен интелект, подписаха отворено писмо, публикувано от Института за бъдещето на живота, в което се призовава за шестмесечна пауза в разработването на усъвършенстван изкуствен интелект.

(Междувременно Мъск тихомълком се надпреварва да стартира своя инициатива за генеративен AI, за да се конкурира с OpenAI, която той вече представи като проет xAI).

Мъск създава xAI и пренарежда играчите в полето на изкуствения интелект

"Усъвършенстваният изкуствен интелект би могъл да представлява дълбока промяна в историята на живота на Земята и следва да бъде планиран и управляван със съответното внимание и ресурси", се казва в писмото.

"За съжаление, това ниво на планиране и управление не се случва, въпреки че през последните месеци лабораториите се впуснаха в неконтролируема надпревара за разработване и внедряване на все по-мощни цифрови умове, които никой – дори техните създатели, не може да разбере, предвиди или надеждно да контролира. ", алармират още авторите на писмото.