„Малко сме уплашени“: Сам Алтман предупреждава за рисковете от AI

Предупреждението идва малко след като OpenAI пусна най-новата версия на своя езиков AI модел, GPT-4 - по-малко от четири месеца след пускането на оригиналната версия, превърнала се в най-бързо развиващото се потребителско приложение в историята.

 

В интервюто AI инженерът каза още, че въпреки че новата версия „не е перфектна“, тя е постигнала 90% в САЩ на адвокатските изпити и почти перфектен резултат на гимназиалния тест по математика SAT. Може също така да пише компютърен код на повечето езици за програмиране, каза той.

 

Страховете от изкуствения интелект, насочен към потребителите, и изкуствения интелект като цяло се фокусират върху това, че хората ще бъдат заменени от машини. Но Алтман посочи, че AI работи само под ръководство на хора.
 

„Това е инструмент, който е в голяма степен под човешки контрол“, каза Алтман, но добави, че има притеснения за това кои хора имат контрол върху него.

 

„Ще има и хора, които не спазват някои от ограниченията за безопасност, които ние въвеждаме“, каза още той. „Мисля, че обществото разполага с ограничено време, за да разбере как да реагира на това, как да го регулира, как да се справи с него.“

 

Тази седмица Мъск отново изрази тревога, в която обаче позиционира своята компания за медицински изделия Neuralink, за която няколко пъти е казвал, че скоро ще започне изпитания на революционен мозъчен имплант за лечение на болести като парализа и слепота върху хора.

„Какво ще остане на нас хората? По-добре да продължим с Neuralink!", туитна Мъск. 

Властите в САЩ не позволяват на Мъск да тества чиповете си върху хора Досега отказът не беше публично достояние, както и факта, че в мотивацията на решението си FDA очертава десетки проблеми

В четвъртък Алтман призна, че последната версия използва дедуктивни разсъждения, а не запаметяване, процес, който може да доведе до странни отговори.