OpenAI си е поставила за цел да създаде инструмент за изкуствен интелект, способен да разработва собствени подобрени версии.

Сега компанията се подготвя за свързаните с това рискове.

Възможността системите за изкуствен интелект да постигнат т.нар. „рекурсивно самоусъвършенстване“ излезе на преден план за лидерите в областта, след като в последните шест месеца инструментите за програмиране на OpenAI и Anthropic отбелязаха значителен напредък, съобщава Business Insider.

Изпълнителният директор на Google DeepMind Демис Хасабис също заяви през седмицата, че човечеството се намира в „преддверието на сингулярността“ – момента, в който изкуственият интелект започва да се усъвършенства сам и изпреварва човешкия интелект.

Ключът са скоростни иновации и „връщане към предприемаческите корени“, така че да навакса темпото в може би „най-интензивната среда в историята на индустрията“, твърди архитектът на трансформацията Демис Хасабис

От изоставащ AI играч до „клуба на 4-те трилиона“: Зад кулисите на „машинното отделение“ в Google

OpenAI, която планира да излезе на борсата тази година, наскоро публикува обява за работа в екипа по безопасност за позицията „Preparedness“, в която търси изследовател, който да се занимава с перспективите какво може да се случи, когато изкуственият интелект започне да обучава по-добри версии на себе си.

Обявата предлага изключително атрактивно възнаграждение от 295 000 до 445 000 долара и търси „силни технически специалисти, които да подпомагат подготовката за рекурсивно самоусъвършенстване“.

„Тази работа се основава на разсъждения за проблеми, които може да се появят в бъдеще, и може да не съществуват сега. Затова е особено важно хората на тази позиция да мислят стратегически“, се казва в обявата.

Експерти предупреждават, че хакери с достъп до усъвършенстван изкуствен интелект от типа на Mythos и GPT 5.5 скоро ще могат да пробиват системи по целия свят

Новите модели на OpenAI и Anthropic водят до хаос в света на киберсигурността

Публичните обяви за работа в областта на изкуствения интелект с високо възнаграждение се превърнаха в ясен сигнал, че лабораториите набират кадри по безопасността и хармонизирането в огромен мащаб.

Наблюдатели отбелязват, че с ускоряването на възможностите на авангардните модели нараства търсенето на изследователи, способни да анализират последствията в дългосрочен план и да разработват системи за управление и инструментариум, което оказва влияние върху пазара на труда и приоритизирането на изследователските проекти в различните лаборатории.

OpenAI и Anthropic не са отговорили на запитването за коментар от Business Insider.