В публикация в личния си блог главният изпълнителен директор на OpenAI Сам Алтман обяви, че OpenAI „знае как да изгради общ изкуствен общ интелект (AGI)“, както традиционно се разбира, и започва да се насочва към разработване на „свръхинтелигентност“.

„Обичаме настоящите си продукти, но сме тук за славното бъдеще“, пише Алтман късно вечерта в неделя, цитиран от ZDNET. „Свръхинтелигентните инструменти биха могли масово да ускорят научните открития и иновациите далеч отвъд това, което сме способни да направим сами, които на свой ред да увеличат изобилието и просперитета.“

По-рано Алтман е заявявал, че до свръхинтелигентността може да останат „няколко хиляди дни“ и че нейното пристигане ще бъде „по-скоро, отколкото хората си мислят“.

AGI, или общ изкуствен интелект, е мъгляв термин. Но OpenAI има свое собствено определение, което гласи:

„Високоавтономни системи, които превъзхождат хората в най-ценната от икономическа гледна точка работа“.

Терминът описва момент на технологичен пробив, когато AI надхвърля човешкия контрол и започва бързо и необратимо да трансформира обществото

От Азимов до AGI: Наближава ли катастрофалната за човечеството "сингулярност"?

В договора между разработчика на ChatGPT и Microsoft, най-близкия му сътрудник и най-голям инвеститор, също има заложено определение за AGI, макар и погледнато от друга гледна точка: Системи с изкуствен интелект, които могат да генерират печалба от поне 100 млрд. долара. В него също така се казва, че когато OpenAI постигне тази цел, Microsoft няма да има преференциален достъп до технологията.

Затова логично трябва да си зададем въпроса: Коя дефиниция има предвид Алтман сега? Той не го казва изрично, но първата изглежда по-правдоподобно. В публикацията си Алтман пише, че според него AI агентите - системи, които могат да изпълняват определени задачи самостоятелно - могат да се „присъединят към работната сила“ и „съществено да променят резултатите на компаниите“ през тази година.

„Продължаваме да вярваме, че итеративното поставяне на страхотни инструменти в ръцете на хората води до страхотни, широко разпространени резултати“, пише още той.

Това е възможно. Но също така е вярно, че днешната технология за изкуствен интелект има значителни технически ограничения. Тя халюцинира. Тя прави грешки, очевидни за всеки човек. И често е много скъпа.

Алтман изглежда уверен, че всичко това може да бъде преодоляно - и то бързо. Но ако има нещо, което сме научили за AI през последните няколко години, то е, че сроковете могат да се променят.

„Уверени сме, че през следващите няколко години всички ще видят това, което виждаме ние, и че необходимостта да се действа много внимателно, като същевременно се максимизират широките ползи и възможности, е изключително важна“, пише Алтман.

„Аз идвам от академичния AI и съм се обучавала по по-строгите и основани на доказателства методи, така че всъщност не знам какво означават всички тези думи“, каза Фей-Фей Ли на срещата на върха на Credo AI

Дори „кръстницата на изкуствения интелект“ няма представа какво е AGI

Разбира се, целият свят трябва да се надява, че след като OpenAI обяви тази промяна на фокуса си към това, което смята за свръхинтелигентност, ще отдели достатъчно ресурси, за да гарантира, че тези системи от бъдещето ще се държат безопасно. Компанията неколкократно е писала за това, че успешният преход към свят със свръхинтелигентност „далеч не е гарантиран“ - и че не разполага с всички отговори.

„Не разполагаме с решение за управление или контрол на потенциално свръхинтелигентен AI и за предотвратяване на неговите негативни ефекти“, написа компанията в публикация в блога си през юли 2023 г. „Хората няма да могат надеждно да контролират AI системи, много по-интелигентни от нас, и затова сегашните ни техники за обучение няма да се мащабират до свръхинтелигентност.“

След публикуването на този пост OpenAI разформирова екипи, фокусирани върху безопасността на AI, включително тази на свръхинтелигентните системи, и напуснаха няколко влиятелни изследователи, работещи върху ограничаване на рисковете. Няколко от тези служители посочиха като причина за напускането си все по-комерсиалните амбиции на OpenAI. В момента разработчикът на ChatGPT е в процес на корпоративно преструктуриране, за да стане по-привлекателна за външни инвеститори.

Запитан в неотдавнашно интервю за критиците, които твърдят, че OpenAI не е достатъчно фокусирана върху безопасността, Алтман казва: „В отговор бих посочил нашите постижения.“