OpenAI пуска нова версия на ChatGPT, която е създадена специално за тийнейджъри. Платформата ще има по-добра защита на психичното здраве и ще предлага функции, които насърчават критичното мислене.

Според информация на Financial Times ходът на технологичния гигант е пряк отговор на растящите обществени критики и притеснения по отношение на влиянието на изкуствения интелект върху младите потребители.

Стартъпът, оценен на 852 млрд. долара, ще започне глобалното въвеждане на специализираната версия на ChatGPT за потребители на възраст между 13 и 17 години от този вторник. Новата версия включва много по-строг контрол върху генерирането на изображения. Тя блокира съдържание, свързано със самонараняване, насилие, хранителни разстройства и секс.

Решението идва в ключов момент за компанията. OpenAI се готви за възможно рекордно първично публично предлагане (IPO) през следващата година. В същото време компанията се сблъсква с много съдебни искове от семейства, които твърдят, че децата им са пострадали поради липсата на достатъчно ограничения в чатбота.

Нарастващият натиск върху технологичните компании съвпада с действията на редица държави, сред които и Великобритания. Те вървят към забрана на социалните мрежи за лица под 16 години. Въпреки че тези мерки обикновено изключват AI платформите, те засилват фокуса върху безопасността в целия сектор.

Въпреки рестрикцията за лица под 16 години, липсата на адекватни системи за проверка на възрастта от страна на платформите позволява на над 80% от децата да заобиколят правилата

Проучване: Повечето тийнейджъри в Австралия остават в социалните мрежи три месеца след забраната

От Financial Times припомнят, че OpenAI вече е обект на съдебно дело от семейството на 16-годишния Адам Рейн от Калифорния. Той е отнел живота си, след като е обсъждал намеренията си с ChatGPT. Според съдебните документи ботът е предоставил на момчето подробни инструкции.

Друго дело е заведено от семействата на жертвите при масовата стрелба в училище в Тъмблър Ридж, Канада. То е от февруари тази година.

Разследването показва, че месеци преди атаката непълнолетният стрелец е говорил за плановете си за насилие с чатбота.

Въпреки че компанията беше блокирала акаунта месеци по-рано, OpenAI не съобщи на правоохранителните органи.

„Подобни сценарии са сърцераздирателни. Дори един инцидент е твърде много“, казва пред изданието Лорън Джонас, ръководител на отдела за младежи и семейства в OpenAI. Тя допълва, че компанията постоянно се учи как да разпознава кога един тийнейджър минава през труден период, за да му даде нужните ресурси.

Сенаторът посочва създадени с помощта на AI вируси и скорошни случаи, в които модели са заобиколили наложените им ограничения, като основание за незабавна пауза

Бърни Сандърс заплашва да принуди OpenAI, Anthropic и Meta да спрат временно разработването на AI

Досега ChatGPT имаше родителски контрол, който изпраща известия при рискови ситуации като разговори за самоубийство или самонараняване. Новата версия добавя известия за хранителни разстройства и склонност към насилие. Според Джонас компанията се опитва да намери трудния баланс между правото на тийнейджърите на личен живот и сериозността на възможната вреда.

Политиката на OpenAI ясно забранява използването на платформата от деца под 13 години. За тези под 18 години е нужно съгласие от родител. Компанията ще решава кога да пусне тийнейджърската версия, като използва декларираната възраст и някои сигнали, свързани с начина на ползване.

Проучване показва, че близо 70% от лицата под 16 години, които имат профили в Instagram, Snapchat или TikTok, са запазили достъпа си

Meta, TikTok и Google се разследват за предполагаемо неспазване на забраната за социални мрежи в Австралия

За да предпази младите потребители от прекомерно стоене пред екрана, новият ChatGPT ще включва по-чести напомняния за почивка и опция за „тихи часове“. Това са периоди, в които достъпът може да бъде блокиран от самите потребители или от техните родители.

Компанията се опитва да отговори и на притесненията в образователната сфера. Даването на мигновени отговори на сложни въпроси води до феномен, известен като „когнитивно разтоварване“ (cognitive offloading). Това доказано вреди на критичното мислене при подрастващите.

За да предотврати това, OpenAI въвежда нов режим за учене, наречен study mode. Вместо да дава готовия отговор, ботът ще помага на учениците стъпка по стъпка при решаването на конкретния проблем.

Данните на компанията показват, че 90% от тийнейджърите в платформата я ползват точно за учене. Новите мерки имат за цел изкуственият интелект да се наложи като сигурен и безопасен образователен инструмент, пише Financial Times.