OpenAI сформира специален екип за управление на рисковете, свързани със свръхинтелигентния изкуствен интелект (AI) - хипотетичен модел на изкуствен интелект, който е по-интелигентен дори от най-надарения човек и се отличава с множество области на компетентност, а не с една, какъвто е случая с много от сегашните модели.

Според Engadget OpenAI смята, че такъв модел може да се появи преди края на десетилетието.

"Свръхинтелигентността ще бъде най-въздействащата технология, която човечеството някога е изобретявало, и може да ни помогне да решим много от най-важните световни проблеми", заявяват от организацията. "Но огромната мощ на свръхинтелигентността може да бъде и много опасна и да доведе до обезсилване на човечеството или дори до изчезването му."

САЩ събират учени доброволци за проучване на рисковете от генеративния AIНовата работна група ще спомогне за предоставянето на важни насоки за организациите, които го разработват и използват
Новият екип ще бъде ръководен съвместно от главния учен на OpenAI Иля Суцкевер и Ян Лейке, също ръководител на изследователската лаборатория. Освен това OpenAI заявява, че ще отдели 20% от осигурената си в момента изчислителна мощност за инициативата, като целта е да се разработи автоматизирани инструменти за контрол.

Подобна система теоретично би помогнала на OpenAI да гарантира, че суперинтелигентността е безопасна за използване и е съобразена с човешките ценности.

"Макар че това е невероятно амбициозна цел и не е гарантирано, че ще успеем, ние сме оптимисти, че с целенасочени и съгласувани усилия можем да решим този проблем", заявяват от OpenAI. "Има много идеи, които са показали обещаващи резултати в предварителните експерименти, разполагаме с все по-полезни показатели за напредък и можем да използваме днешните модели за емпирично изследване на много от тези проблеми."

Лабораторията добавя, че ще сподели пътна карта в бъдеще.

Забравете за AI апокалипсис в бъдещето. Опасността е тук и сега Тезата за бъдеще, изпълнено с рискове от изкуствения интелект, измества фокуса от проблемите, които вече създава
Съобщението идва в момент, когато правителствата по света обмислят как да регулират зараждащата се индустрия на изкуствения интелект. В САЩ Сам Атман, главен изпълнителен директор на OpenAI, се срещна със стотици федерални законодатели през последните месеци. Публично той заявява, че регулирането на AI е "от съществено значение" и че OpenAI е "нетърпелива" да работи за създаването на нужните регулации.

“Но не трябва да приемаме като чиста монета подобни изявления, както и усилия като това на екипа на OpenAI за контрол на технологията. Като фокусират вниманието на обществеността върху хипотетични рискове, които може никога да не се реализират, организации като OpenAI прехвърлят процеса на създаване на регулации към хоризонта, вместо към тук и сега. Има много по-непосредствени проблеми около взаимодействието между AI и човечеството, свързани с пазара на труда, дезинформацията и авторските права, с които законодателите трябва да се справят днес, а не утре”, пише Enadget.

Компанията ще си партнира с Великобритания

Но това не е всичко, което OpenAI поема като ангажимент на терена на сигурния изкуствен интелект. Надзорът на Обединеното кралство върху технологията ще включва възможности за пряко проучване на платформите на някои компании, в това число и на създателя на ChatGPT.

Google продава чатбота си в стотици държави, но се притеснява да го ползваКомпанията е посъветвала служителите си да не въвеждат нейни поверителни материали в AI платформи
В своя реч по време на Седмицата на технологиите в Лондон министър-председателят Риши Сунак разкрива, че DeepMind на Google, OpenAI и Anthropic са обещали да предоставят "ранен или приоритетен достъп" до модели на AI в името на научните изследвания и безопасността.

В идеалния случай това ще подобри проверките на тези модели и ще помогне на правителството да разпознае "възможностите и рисковете", казва Сунак.

Не е ясно точно какви данни ще споделят технологичните компании с правителството на Обединеното кралство.

Обединеното кралство вече се ангажира да похарчи повече от 100 млн. паунда за създаване на работна група, която да разработи "суверенен" AI, предназначен за развитие на британската икономика, като същевременно се сведат до минимум етичните и техническите проблеми.