Докато AI се разраства в нови посоки, включително и в сферата на дигиталната компания, Илон Мъск планира своя следващ гениален ход: а защо той да не е специализирано AI приложение за деца, базирано на Grok – AI чатботът на xAI (същият, познат със антисемитските си изказвания и AI компаньонка, която влиза в NSFW режим…).

Новата платформа, наречена Baby Grok, ще бъде насочена към подрастващото поколение и ще предлага „съдържание, подходящо за деца“, според изявление на Мъск в X, чийто собственик също е той.

Все пак трябва да признаем, че ходът изглежда пазарно обоснован: близо 75% от тийнейджърите в САЩ вече са използвали AI компаньони, а ранното изграждане на лоялност към бранда е изключително важно. Но докато бизнес логиката е налице, експертите в областта на защитата на децата изказват тревогата си, пише Fast Company.

„Ако X и xAI започнат да разработват продукти за деца, това ще бъде притеснително. Историята им ясно показва, че те не поставят безопасността на децата като основен приоритет“, казва Хейли Макнамара, вицепрезидент на Националния център за борба със сексуалната експлоатация (NCOSE).

Макнамара не е сама в критиките си. По темата се изказва и Анди Бъроуз, директор на британската фондация Molly Rose, създадена от родителите на 14-годишната Моли Ръсел, която се самоубива, след като е изложена на токсично съдържание в социалните мрежи.

„Плановете за Baby Grok ще предизвикат тревога в цялото гражданско общество. Рисковете, свързани с дизайна на AI чатботове, липсата на защити и възможните „халюцинации“ в отговорите, все още не са преодолени от индустрията“, подчертава Бъроуз.

Мъск обеща свободомислещ AI, но получи дигитална кутия на Пандора

Grok на Мъск влиза в „секси“ режим, но xAI има спешна нужда от екип по сигурността

Има и конкретни основания за безпокойство. Експертите припомнят, че xAI стои зад създаването на чатбота Ани, който бързо е сексуализиран от потребителите на платформата, както и Bad Rudi – червена панда, която обикновено отговаря с обиди. Според Бъроуз, опасностите се крият не само в съдържанието, а и в това как децата могат емоционално да се привържат към AI ботове.

„Системи от този тип симулират дълбоки и емоционални отношения. Деца могат да започнат да търсят подкрепа и съвети от чатботове, което да доведе до неприятни последствия“, казва той. „Дори възрастни се затрудняват да разграничат виртуалната връзка от реалната.“

NCOSE повдига и въпроса за организационния капацитет на платформите на Мъск да осигурят безопасност за деца. След придобиването на X много от служителите, отговарящи за защитата на деца, бяха освободени.

Нов доклад разкрива, че платформата продължава да игнорира сигналите и жалбите за съдържание, което нарушава законите за дигитална прозрачност

X, Мъск и руската дезинформация се превръщат в хронично главоболие на ЕК

Платформата също така позволява порнографско съдържание без сериозни механизми за проверка на възрастта или съгласието, напомня Макнамара. Според нея, това е създало среда, в която злоупотребите не просто съществуват, а дори се насърчават заради липсата на адекватна намеса.

„Липсата на контрол, оставянето на уязвимо съдържание и липсата на реакция – това са индикации, че компанията не трябва да работи с деца“, категорична е тя.

В Обединеното кралство новият Закон за онлайн безопасност (Online Safety Act) дава поне минимална регулаторна рамка за проекти като Baby Grok. Но, както подчертава Бъроуз, X се движи бавно в изпълнението на изискванията, а в много други държави подобни законодателни механизми липсват.

„Реалният риск не е само в самата технология, а в това колко лошо проектирани и нерегулирани продукти могат да достигнат до децата – без никаква реална защита“, казва той.