Глобалното движение за онлайн безопасност проправи пътя за редица продукти, базирани на изкуствен интелект, предназначени да предпазват децата от потенциалните опасности на интернет.

В Обединеното кралство нов закон, наречен „Закон за онлайн безопасността“, налага на технологичните компании задължението да предпазват децата от неподходящо за възрастта им съдържание, реч на омраза, тормоз, измама и материали, свързани със сексуално малтретиране на деца. Компаниите подлежат на глоба с до 10% от глобалния си годишен приход за нарушения на законодателството.

Знакови регулации, насочени към по-голямата безопасност на децата в интернет, бързо преминаха и през Конгреса на САЩ. Законопроект, известен като „Закон за онлайн безопасността на децата“, се очаква да направи социалните медии отговорни по отношение на предотвратяването на вредата своите продукти върху децата – подобно на „Закона за онлайн безопасността“ във Великобритания.

Този натиск от страна на регулаторните органи все повече кара няколко големи технологични компании да преосмислят позицията си. Pornhub и други гиганти в областта на онлайн порнографията блокират достъпа на всички потребители до своите сайтове, освен ако не преминат през система за проверка на възрастта. Порно сайтовете обаче не са единствените, които предприемат мерки за проверка на възрастта на потребителите. Spotify, Reddit и X вече внедриха системи за проверка на възрастта, за да предотвратят излагането на деца на сексуално експлицитни или неподходящи материали.

Тези регулаторни мерки бяха посрещнати с критики от технологичната индустрия – не на последно място заради опасения, че те могат да нарушат правото на личен живот на интернет потребителите.

Осем съвета как да сте в безопасност онлайн

Бумът на технологията за цифрова идентификация

В основата на всички тези мерки за проверка на възрастта във Великобритания стои една компания: Yoti. Тя произвежда технология, която прави селфита и използва изкуствен интелект, за да проверява възрастта на дадено лице въз основа на чертите на лицето му. Компанията твърди, че нейният алгоритъм, който е обучен чрез милиони лица, може да оцени възрастта на хората на възраст от 13 до 24 години с точност до две години.

Yoti вече е сключила партньорство с Пощенската служба на Обединеното кралство, но не е единствената компания в областта на софтуера за проверка на самоличността – други участници са Entrust, Persona и iProov. Въпреки това, тя е най-известният доставчик на услуги за проверка на възрастта под новия режим в Обединеното кралство.

„Води се надпревара между доставчиците на технологии и услуги за безопасност на децата, за да спечелят доверие“, казва пред CNBC Пит Кениън, партньор в адвокатската кантора Cripps. „Новите изисквания безспорно създадоха нов пазар и доставчиците се борят да се наложат“.

Но възходът на методите за цифрова идентификация води и до опасения за нарушаване на правото на личен живот и възможни нарушения на личните данни.

„Използването на тази технология поражда съществени проблеми, свързани с правото на личен живот“, категоричен е Кениън. „Доверието е ключово и може да бъде спечелено само чрез използването на строги и ефективни технически и управленски процедури, приети с цел да се гарантира сигурността на личните данни”.

Рани Говендер, мениджър по политиките за безопасност на децата онлайн в британската благотворителна организация NSPCC, казва пред CNBC, че технологията за удостоверяване на потребителите без да се нарушава тяхната неприкосновеност „вече съществува“.

„Технологичните компании трябва да правят обмислени, етични избори, като избират решения, които предпазват децата, без да нарушават неприкосновеността на потребителите“, казва тя. „Най-добрата технология не просто отмята точки, тя изгражда доверие“.

Когато дизайнът среща алгоритъма: Човекът и AI рисуват бъдещето заедно

Смартфони, безопасни за деца

Вълната от нови технологии, които се появяват, за да предпазят децата от онлайн опасности, не се ограничава само до софтуера. В началото на този месец финландският производител на телефони HMD Global пусна на пазара нов смартфон, наречен Fusion X1, който използва изкуствен интелект, за да попречи на децата да записват или споделят снимки с голи тела или да гледат сексуално експлицитни изображения от камерата, екрана и всички приложения. Телефонът използва технология, разработена от SafeToNet, британска компания за киберсигурност, фокусирана върху безопасността на децата.

„Смятаме, че трябва да се направи повече в тази област“, обяснява Джеймс Робинсън, вицепрезидент на HMD, пред CNBC, като подчертава, че HMD е измислила концепцията за устройства за деца преди влизането в сила на Закона за онлайн безопасност.

Пускането на телефона на HMD, подходящ за деца, следва засилената динамика в движението „Без смартфони“, което насърчава родителите да не позволяват на децата си да притежават мобилен телефон.

В бъдеще, според Говендер от NSPCC, безопасността на децата ще се превърне в значителен приоритет за дигиталните гиганти като Google и Meta. От години те са обвинявани, че влошават психичното здраве на децата и тийнейджърите заради все повечето случаи на онлайн тормоза и зависимостта им от социалните медии. В отговор те твърдят, че предприемат мерки за справяне с тези проблеми чрез функции за засилен родителски контрол и защита на личните данни.

„В продължение на години технологичните гиганти стояха безучастни, докато вредно и незаконно съдържание се разпространяваше по техните платформи, оставяйки младите хора уязвими“, категорична е тя пред CNBC. „Тази ера на безразличие трябва да приключи“.