Една вечер през април 2020 г., в самото начало на пандемията от COVID-19, 21-годишната Шанли Клемо Макларън разглежда социалните мрежи, когато попада на публикация на сестра си в Snapchat.

„Хора, не трябва да правите това. Тези fisha акаунти са опасни. Момичета, пазете се!“, гласи видеото. „Попитах я какво е fisha. Бях само на 21, но в онзи момент се почувствах стара“, разказва Шанли пред The Guardian.

Ситуацията се оказва сериозна.

Сестра ѝ показва профил в Snapchat с името „fisha“ (френски жаргон за публично унижение), последван от пощенския код на техния квартал в Париж. Профилът съдържа откраднати интимни снимки на ученички, публикувани заедно с личните им данни – телефони, адреси и имена.

„Имаше всичко необходимо, за да бъдат тези момичета намерени и поставени в реална опасност“, обяснява Макларън.

Двете сестри и техни приятели докладват профила десетки пъти, но реакция от страна на Snapchat първоначално липсва.

Оказва се, че това не е изолиран случай – подобни акаунти се появяват за различни градове из цяла Франция. Изправени пред липсата на своевременна модерация, момичетата решават да действат сами, стартирайки хаштага #StopFisha.

Датският дигитален патрул стриймва в Twitch и играе Counter-Strike с тийнейджъри, за да предотвратява онлайн измами, сексуален тормоз и опити за манипулация и увличане на деца от възрастни в интернет

Влез в сървъра на закона: „Ченгетата от Discord“ и битката за онлайн безопасност

От индивидуален протест към организирано движение

Това, което започва като сигнал за нередност, прераства в движение.

Хаштагът придобива популярност, медиите обръщат внимание на проблема, а френското правителство стартира информационна кампания за правните последици от онлайн тормоза.

Усилията дават резултат. Днес #StopFisha има статут на „доверен партньор“ на Snapchat и TikTok – когато организацията подаде сигнал за нередно съдържание, платформите го премахват в рамките на няколко часа.

„Разбрах, че ако искаш промяна в обществото, единичната идея не е достатъчна. Имаш нужда от подкрепа“, споделя Шанли, която днес е на 26 години.

Четири години по-късно тази стратегия се прилага в по-голям мащаб.

Макларън и млади активисти от цяла Европа обединяват усилия в диалога с големите технологични компании. Тяхната теза е, че макар индивидуално потребителите да имат малко влияние, колективно те са ключов елемент от бизнес модела на корпорациите.

49-годишният президент и съсобственик на американския футболен клуб Inter Miami засяга темата за опасностите от социалните мрежи

„Има твърде много тормоз“: Бекъм се пита как би понесъл Instagram в дните си като футболист

Предизвикателствата пред първото „дигитално“ поколение

Това е първото поколение, израснало изцяло в ерата на социалните мрежи. Те са най-активните потребители, но и първите, които се сблъскват с негативните ефекти на технологиите. Сред основните проблеми, които активистите посочват, са алгоритмите за задържане на вниманието, езикът на омразата, изнудването с интимни кадри (т.нар. sextortion) и разпространението на генерирано от изкуствен интелект съдържание.

„В цяла Европа едно поколение преминава през тиха криза“, се посочва в доклад на коалицията People vs Big Tech, визирайки ръста на тревожността и депресивните състояния сред младежите.

В отговор се създава движението Ctrl+Alt+Reclaim – организация за дигитални права, водена от хора на възраст между 15 и 29 години. Тяхното основно искане е включване на младите хора в процеса на вземане на решения: „Нищо за нас без нас“. Организацията настоява за по-голяма прозрачност на алгоритмите и по-строг контрол върху личните данни.

Алгоритми и социални групи

За активисти като Ясин (23 г.) – небинарна личност от Северна Африка, живееща в Германия – предизвикателствата са многопластови. В интервю за The Guardian Ясин споделя, че технологичните системи понякога създават пречки за определени социални групи, включително мигранти и представители на ЛГБТ общността.

Според активиста системите често отразяват пристрастията на средата, в която са създадени, което може да доведе до филтриране или ограничаване на съдържание (т.нар. shadow-banning). Ясин посочва още, че изискванията за верификация на самоличността могат да затруднят достъпа на бежанци или хора с неуреден статут до онлайн услуги.

Мярката засяга около пет милиона непълнолетни, включително един милион деца на възраст между 10 и 15 години

Австралия въведе първата в света забрана на социални мрежи за деца под 16 години

Човешката цена на ангажираността

За Адел Зейнеп Уолтън темата е свързана с лична трагедия. През 2022 г. тя губи сестра си Ейми, която слага край на живота си на 21-годишна възраст. Преди смъртта си младата жена е посещавала онлайн форуми, където често биват обсъждани теми като самонараняване.

„Поколения като моето приемаха за нормално да водят ежедневна битка със зависимостта към устройствата. Смятахме, че проблемът е в нас“, споделя Адел.

Проучвайки темата за книга, която пише по темата, Уолтън стига до извода, че потребителите имат ограничен контрол върху съдържанието, което им се предлага.

„Дори да маркирате, че не желаете да виждате определено съдържание, алгоритъмът често го показва отново, ако то генерира реакции“, твърди тя.

Алисия Колийн, специалист по данни (Data Science), коментира темата от професионална гледна точка.

„Учиха ме да събирам възможно най-много данни и да създавам модели за предвиждане на поведението. Етичните аспекти обаче рядко бяха част от дискусията“, казва тя пред The Guardian.

Според Колийн социалните мрежи са превърнали личните данни в ценен актив, което е консолидирало значителна власт в ръцете на технологичния сектор.

Главният изпълнителен директор на OpenAI признава, че тежестта на дребните решения в ChatGPT оформя мисленето на стотици милиони хора и поражда трудни морални дебати

Сам Алтман: „Не съм спал нормално, откакто ChatGPT стартира“

Политическата обстановка в световен мащаб също оказва влияние върху модерацията на съдържание. След промените в управлението на социалната мрежа X, а по-късно и с новините около Meta, се наблюдава тенденция към намаляване на екипите за проверка на факти.

В Европа Актът за цифровите услуги (DSA) поставя нови рамки, но технологичните компании често аргументират позицията си, че прекалените регулации могат да забавят иновациите. Алисия Колийн обаче контрира тази теза: „Единственото, което липсата на регулация насърчава, е вредната иновация“.

AI порнографията създава нов тип зависимост – свят, в който фантазията изтласква реалността, а връзките губят смисъл

Опасна наслада: Да попаднеш в клопката на генеративната еротика

Докато правителствата обсъждат мерки – като забраната на социални мрежи за лица под 16 години в Австралия – активистите от Ctrl+Alt+Reclaim разглеждат различни подходи.

Сред идеите са създаване на алтернативни платформи с публично финансиране или потребителски кампании.

Съществува и индивидуален подход: ограничаване на присъствието онлайн. „Другата страна на монетата е да намалим времето си пред екрана“, обобщава Адел Уолтън. „Наложи се да пренастроя навиците си, за да свикна отново с общуването на живо. Всъщност, възстановяването на реалната връзка помежду ни е стъпка в правилната посока.“