Практиките за безопасност на водещите компании в разработването на изкуствен интелект, като Anthropic, OpenAI, xAI и Meta, са „далеч от нововъзникващите глобални стандарти“.

Това са изводите в новия доклад за Индекса за безопасност на изкуствения интелект, изготвен от Future of Life Institute, съобщава Reuters.

Според изследването, оценката на безопасност, проведена от независим експертен панел, е установила, че докато компаниите са заети с надпреварата за разработване на суперинтелигентност, никоя не разполага с надеждна стратегия за контрол на такива усъвършенствани системи.

Инструментът маркира отметката за проверка от Cloudflare, предназначена да спира именно автоматизирани програми като него

„Човек съм, честна дума“: ChatGPT безпроблемно се справя с проверка за ботове

Проучването идва на фона на засилената обществена загриженост относно социалното въздействие на системи, по-интелигентни от човека, способни на разсъждения и логическо мислене, както и след няколко цитирани случаи на самоубийство и самонараняване след разговори с AI ботове.

„Американските компании за изкуствен интелект остават по-малко регулирани и продължават да лобират срещу задължителни стандарти за безопасност“, заявява Макс Тегмарк, професор в MIT и президент на Future of Life.

Състезанието в областта на изкуствения интелект също не показва признаци на забавяне, като технологични гиганти инвестират стотици милиарди долари в модернизиране и разширяване на усилията си в машинно обучение.

Future of Life Institute е организация с нестопанска цел със сериозна загриженост относно рисковете, които AI представлява за човечеството. Основана през 2014 г., тя беше подкрепена в началото от Tesla и нейния главен изпълнителен директор Илон Мъск, припомня Reuters.

Компанията въвежда „разсъждаващи“ модели и родителски контрол след дела и критики, че ChatGPT не е успял да разпознае признаци на психически дистрес у потребители

OpenAI срещу кризата на доверието – нови правила за безопасност в ChatGPT

През октомври група учени призова за забрана на разработването на суперинтелигентен изкуствен интелект, докато обществото не го поиска и науката не проправи безопасен път напред.

В коментар говорител на Google DeepMind заяви, че компанията ще „продължи иновациите си в областта на безопасността и управлението на технологията в крак с възможностите“, тъй като моделите ѝ стават все по-усъвършенствани, докато xAI заяви, че „традиционните медии лъжат“, в изказване, изглеждащо като автоматичен отговор, според Reuters.

Anthropic, OpenAI, Meta, Z.ai, DeepSeek и Alibaba Cloud не са отговорили на запитването за коментар по проучването.