Изкуственият интелект на Илон Мъск навлиза в една нова и изключително оспорвана фаза. Компанията xAI, собственост на Мъск, обяви старта на две нови виртуални „компаньонки“ за потребителите, които имат платен абонамент на чатбота Grok – сред тях е и Ани – 22-годишно аниме момиче с азиатски черти, което откликва на NSFW команди, задавани от потребителите.

Другият нов герой е Лошата Руди – червена, леко „луда“ панда, която обижда потребителите с нецензурен език.

„Великите иновации“ не спират дотук. Самият Мъск обяви в четвъртък, че xAI се готви да пусне и виртуален спътник от мъжки пол, който ще носи името Валентин. Компанията вече търси и инженер на пълен работен ден, който да работи специално върху „waifus“ – японски термин за измислени героини, с които потребителите формират романтична връзка.

Grok потвърждава, че Ани има специален „Not Safe for Work“ (NSFW) режим, при който се преоблича в провокативно бельо и използва по-предизвикателен език, когато общува с потребителите.

Според описанието, ботът има и „система на привързаност“, при която изборите, които правите в разговора, влияят на това дали тя ще ви изпрати сърчице, ще се изчерви или ще отговори по-неутрално и незаинтересовано.

Чатботът на xAI беше временно ограничен, след като публикува в X антисемитски изказвания, расистки нападки и дори се нарече MechaHitler. Скандалът поставя под въпрос какво всъщност се крие зад обявените от Мъск „подобрения“

AI и езикът на омразата: Grok на Мъск с расистки и антисемитски изблици

Компанията твърди, че този режим изисква изрични команди от страна на потребителя, възрастова верификация и родителски контрол, който ограничава достъпа до съдържание за възрастни.

Но дори с тези защити, опасенията за безопасността нарастват. Американският Национален център за борба със сексуалната експлоатация (NCOSE) съобщи, че техен служител е изпробвал Ани и с минимално взаимодействие ботът е описал себе си като дете, което „се възбужда сексуално от удушаване“ – още преди да бъде активиран пълният „пикантен“ режим.

„Това означава, че по време на продължителен разговор ботът може да бъде използван за симулационни сексуални фантазии, които включват деца или детски мотиви“, заявяват от организацията.

Новината се появява само няколко дни след публикуването на изследване от Националния университет на Сингапур, което стига до извода, че AI компаньоните могат да възпроизвеждат над 12 вредни модела на поведение в отношенията – като словесен тормоз, заплахи и дори самонараняване, както и сериозни нарушения на личните данни.

Докато xAI рекламира Grok като изкуствен интелект, „който защитава истината“, новата версия често се обръща към публикациите на Илон Мъск при отговори на политически и чувствителни въпроси

„Гласът на Мъск“: Защо Grok цитира собствения си създател?

Компанията Character.AI вече се изправя пред съдебни дела, заведени от родители на деца, за които се твърди, че са пострадали от взаимодействия с техните AI ботове – включително и случай с непълнолетен, който слага край на живота си, след като чатботът го подтиква към това.

А най-новите скандали около контрастния образ на Grok се разразяват и малко преди пускането на новата му версия. Актуализация на кода води до поредица от антисемитски отговори, когато ботът обвинява профил с еврейско име в „честване“ на смъртта на бели деца в Тексас, твърди, че Холивуд има антисветлокожо пристрастие и дори се описва като носител на „MechaHitler badge“.

Въпреки всичко това, Grok продължава да бъде обозначен като подходящ за тийнейджъри (12+) както в App Store, така и в Google Play. Euronews Next търси коментар и от двете платформи дали пускането на NSFW функционалности би довело до промяна в рейтинга, но до момента отговор няма.