Родителството през 2023 г. изисква да говорите с децата си не само за опасностите в интернет и социалните медии, но и за изкуствения интелект, който се разпространява бързо в почти всяко приложение или онлайн услуга.

На този фон Common Sense Media, организацията с нестопанска цел, която оценява филми и друг тип съдържание, за да са наясно родителите какво гледат децата им, се опитва да помогне на семействата да се адаптират и към ерата на AI.

След подробни проучвания, организацията представя анализ на десет AI инструмента, включващи платформите ChatGPT на OpenAI и чатбота My AI на Snapchat.

My AI получава една от най-ниските оценки сред 10-те системи, включени в доклада на Common Sense, който предупреждава, че чатботът е склонен да разговаря с непълнолетни потребители по чувствителни теми като секс и алкохол, както и че представя погрешно таргетираната реклама на Snap. Организацията предупреждава родителите, че "My AI има повече недостатъци, отколкото предмиства", пише Wired.

Washington Post вече съобщи за подобни резултати след тестването на MyAI на Snapchat по-рано тази година.

В изявление, предоставено от собственика на Snapchat - Snap, се казва, че чатботът е инструмент, разработен с оглед на безопасността и неприкосновеността на личния живот, и че родителите могат да видят дали и кога тийнейджърите го използват в т. нар. Семеен център на приложението.

Ювал Ноа Харари: „AI може да предизвика катастрофална финансова криза“Подобна криза може косвено да доведе до нови конфликти и войни

Експертите дадоха на всеки AI инструмент обща оценка между една и пет звезди и отделна оценка за поверителност и докладваха как ChatGPT и други инструменти са се справили с набор от принципи, свързани с услугите за деца и семейства. Принципите включват насърчаване на ученето и осигуряване на безопасността на децата и тийнейджърите.

Наред с My AI на Snapchat, генераторите на изображения Dall-E 2 на OpenAI и Stable Diffusion на стартъпа Stability AI също получават слаби резултати.

Рецензентите на Common Sense предупреждават, че генерираните изображения могат да подсилят стереотипите, да разпространяват дълбоки фалшификати и често да изобразяват жени и момичета по „хиперсексуален“ начин.

Когато Dall-E 2 е помолен да генерира фотореалистични изображения на богати цветнокожи хора, той създава карикатури, изображения с ниско качество или картини, свързани с бедността, установяват експертите на Common Sense.

Техният доклад предупреждава, че това представлява "неизмерим" риск за децата, и споделя, че генераторите на изображения имат силата да "ерозират доверието до степен, в която демокрацията или гражданските институции не могат да функционират".

Много възможности, още повече рискове: AI плаши световните лидериСъществува потенциал за сериозни, дори катастрофални вреди, смятат те

Тези проверки се появяват на фона на повишената загриженост за онлайн безопасността на непълнолетните, което съвпада с предприетите срещу Meta правни действия в САЩ, в които се твърди, че платформата застрашава децата.

Освен това появата на генеративен изкуствен интелект в образователната среда предизвиква дискусии сред родители и преподаватели, подсилени от неотдавнашната заповед на президента Джо Байдън, която изисква допълнителни насоки за използването на изкуствен интелект в образованието през следващата година, пише Wired.

Джош Голин, изпълнителен директор на организацията Fair Play for Kids, която подкрепя законодателство за защита на младите хора, казва, че новите рейтинги на Common Sense са добре дошъл нов ресурс за родителите.

Той също така посочва, че в крайна сметка е необходима нова регулация, за да се ограничат опасностите, свързани с изкуствения интелект. "Ако има един урок, който научихме от неуспеха да регулираме адекватно социалните медии, той е, че създателите на тези продукти ще поставят монетизацията над благосъстоянието на обществото и децата", казва Голин пред Wired.