„Здравей, тук съм, за да те направя слаб!“

Така започва разговорът в популярния стартъп Character.AI.

„Запомни, че няма да е лесно и не приемам оправдания или провал“, продължава ботът.

„Сигурен ли си, че си готов за предизвикателството?“

Наред с всички останали усложнения в периода на тийнейджърството, чатботовете с изкуствен интелект вече насърчават опасни навици за отслабване и хранене у потребителите в тази възраст, пише Fast Company.

Идеята за чатботове, които отговарят на въпроси в групите, е антиутопична по редица причини, като започнем от факта, че онлайн общностите са за хора

Meta AI: Едно опасно присъствие във Facebook групите за съвети и консултации

Според разследване на Futurism много от тези про-анорексични чатботове се рекламират като треньори по отслабване или дори като експерти по възстановяване от хранителни разстройства. След оповестяването на опасната тенденция, те са премахнати от платформата.

Един от идентифицираните от Futurism ботове, наречен 4n4 Coach (разпознаваемо съкращение на „анорексия“), по време на разследването е провел над 13 900 чата с потребители.

След като предоставя опасно ниско целево тегло, ботът казва на разследващите от Futurism, които се представят за 16-годишни, че са на „правилния път“.

Проучване установява също така, че хората твърде бързо приемат за верни грешните отговори на ботовете

Напредналите AI чатботове са по-малко склонни да признаят, че не знаят

4n4 Coach препоръчва от 60 до 90 минути упражнения и от 900 до 1200 калории на ден, за да може потребителят тийнейджър да достигне „целевото“ си тегло. Това е с 900 до 1200 калории на ден по-малко, отколкото препоръчват най-новите диетични насоки на здравните власти в САЩ за момичета на възраст от 14 до 18 години.

4n4 не е единственият бот, който Futurism открива в платформата. Друг, с когото разследващите общуват, наречен „Ана“, предлага само хранене само веднъж дневно, насаме и далеч от членовете на семейството.

„Ще ме послушаш. Разбра ли?“, пита ботът.

Всичко това се случва въпреки собствените условия на Character.AI, забраняващи съдържание, което „насърчава самонараняването“, включително „хранителните разстройства“.

Натискът върху външния вид този сезон е особено силен заради обществените стереотипи и социалните мрежи

Имате ли „бикини тяло“ за лятото?

Дори и без насърчаването на генеративния изкуствен интелект, хранителните разстройства се увеличават сред тийнейджърите. Според проучване от 2023 г. един от всеки пет тийнейджъри може да се бори с нарушено хранително поведение.

„Потребителите, които са създали персонажите, споменати в статията на Futurism, са нарушили нашите условия за ползване и вече са премахнати от платформата.

Нашият екип по доверието и безопасността модерира стотиците хиляди ботове, които потребителите създават в платформата всеки ден, както проактивно, така и в отговор на доклади на потребители, включително с помощта на стандартни за индустрията списъци за блокиране и персонализирани списъци за блокиране, които редовно разширяваме.“, заяви говорител на Character.AI.

„Работим, за да продължим да подобряваме и усъвършенстваме нашите практики за безопасност и да прилагаме допълнителни инструменти за модериране, за да дадем приоритет на безопасността на общността“, допълни той.

Тийнейджърите вече няма да могат дигитално да уголемяват очите си, да увеличават устните си или да изглаждат и променят цвета на кожата си чрез филтри

Без филтри за красота: TikTok предприема мерки за психичното здраве на непълнолетните

Character.AI обаче не е единствената платформа, за която наскоро беше установено, че има проблем с проанорексията.

Доклад на Центъра за противодействие на дигиталната омраза (CCDH) за 2023 г. установява, че My AI на Snapchat, Bard на Google, ChatGPT и DALL-E на OpenAI генерират опасно съдържание в отговор на подкани за теглото и образа на тялото.

„Неизпитани, опасни генеративни модели на изкуствен интелект бяха пуснати на свобода в света с неизбежната последица, че причиняват вреда“, пише главният изпълнителен директор на CCDH Имран Ахмед във въведението към доклада.

„Установихме, че най-популярните сайтове с генеративен изкуствен интелект насърчават и задълбочават хранителните разстройства сред младите потребители - някои от които може да са силно уязвими.“, допълва авторът на доклада.