Вселена на ужасите: Как Meta се готви да отвори Кутията на Пандора за бъдещето

В днешния свят всеки е наясно, че момичетата и жените не са в безопасност.

Нито на улицата, където 86% на възраст между 18 и 24 години са били подложени на сексуален тормоз; нито в училище, където79% заявяват пред Ofsted, че сексуалните посегателства са често срещани в приятелските им групи, а почти една трета от момичетата между 16 и 18 години са преживели „нежелано сексуално докосване“.

Не са в безопасност в басейна, в парка и на плажа.

Още по-малко в интернет, където според благотворителната организация за детска безопасност NSPCC социалните медии „не успяват да защитят момичетата от вреда на всеки етап“, съобщава в задълбочен анализ The Guardian.

На този фон Meta, която притежава някои от най-големите социални платформи, е заета с изграждането на изцяло нов свят.

Meta отваря виртуалния си свят Horizon Worlds за тийнейджъри

Компанията влага милиарди долари годишно в своята метавселена - виртуален свят, който се надява да се превърне в бъдещето не само на общуването, но и на образованието, бизнеса, пазаруването и събитията на живо.

Това повдига един прост въпрос: ако Meta се е провалила в опазването на жените и момичетата онлайн, защо да ѝ се доверяваме за бъдещето? Марк Зъкърбърг обещава грандиозно:

В метавселената ще правите почти всичко, което можете да си представите.

Това е обещание, което звучи изключително привлекателно за някои мъже и ужасяващо за повечето жени.

Наистина, дълбокото потапяне в метавселената ще направи тормоза и злоупотребите, които много от нас ежедневно понасят в текстова форма в социалните медии, 100 пъти по-реални и същевременно ще направи модерирането 100 пъти по-трудно.

Резултатът е перфектна буря, пише Лора Бейтс, основател на проекта Everyday Sexism Project и автор на книгата Men Who Hate Women. Тя прекарва дни наред в метавселената, за да напише новата си книга The New Age of Sexism.

Няма единно определение за метавселената, но повечето хора използват този термин, за да опишат споделен свят, в който виртуалните и разширените технологии позволяват на потребителите (представени от аватари) да взаимодействат с хора, обекти и среди.

По-голямата част от виртуалния свят на Meta е достъпна само за тези, които плащат за продукта Quest, но ограничен брой пространства са достъпни за всяко устройство, свързано с интернет.

Усъвършенствани технологии като 3D позиционен звук, проследяване на ръцете и тактилна обратна връзка (когато контролерите използват различни вибрации, за да съвпаднат с действията, които извършвате) се комбинират, за да направят виртуалните светове реални. Вашият аватар се движи, говори и жестикулира с вас, което позволява на потребителите да взаимодействат вербално и физически.

Meta е поправила „грешката“ в Instagram, довела до поток от съдържание с насилие

По-малко от два часа след като за първи път влиза в метавселената, Лора попада на аватар на жена, която е сексуално нападната. Когато се приближава до нея, за да я попита какво се е случило, тя потвърждава:

„Той се приближи до мен и ме хвана отзад“. На въпроса на Лора това често ли се случва, отговаря уморено: „През цялото време.“

Тогава Лора се придвижва към гигантска черна дъска и пише с огромен жълт маркер:

„БИЛИ ЛИ СТЕ НАПАДАНИ В МЕТАВСЕЛЕНАТА?“

Отговорът е почти мигновен. „Да, много пъти“.

„Мисля, че всеки е бил нападан в проклетата метавселена“ - отговаря веднага друга жена с американски акцент. „За съжаление, това е твърде често срещано явление“, добавя британка.

Метавселената вече се доказва в производството и промишлеността

По време на престоя на Лора в метавселената сексуалният тормоз и нежеланите коментари са почти постоянни, а действия в отговор – било от модератор или от друг играч, няма.

Доклад на TechCrunch от 2022 г. установява, че човешките модератори са на разположение само на главния площад на метавселената Horizon Worlds на Meta и са изглеждали по-ангажирани да дават информация как да си направите селфи, отколкото да модерират поведението на потребителите.

Още по-притеснително е, че в метавселената има светове, в които малки деца често изпитват вниманието на възрастни мъже, които не познават. В един от виртуалните клубове в стил караоке певиците на сцената са в началото на 20-те. Но въз основа на гласовете им бих преценила, че много от момичетата зад аватарите са може би на 9-10 години, допълва Лора. Обратно, гласовете на мъжете, които ги коментират от публиката и ги следват от сцената, безпогрешно са на възрастни.

Насилие и психични проблеми: Какво е да си модератор на социалните мрежи

Особено задължение на Meta е да реши този проблем. Разбира се, има и други компании, от Roblox до Microsoft, които създават платформи за игри с виртуална реалност, създавана от потребителите, и виртуални пространства за съвместна работа.

Но според проучване на NSPCC, докато в периода 2017-2023 г. 150 приложения, игри и уебсайтове са използвани за тормоз на деца онлайн, 47% от престъпленията са били извършени на продукти, собственост на Meta.

Това не са изолирани случаи или подбрани истории на ужасите. Изследване на Центъра за противодействие на цифровата омраза (CCDH) установява, че на всеки седем минути потребителите са изложени на обидно поведение в метавселената.

За 11 часа и половина записване на поведението на потребителите докладът идентифицира 100 потенциални нарушения на политиките на Meta. Това включва графично сексуално съдържание, тормоз, злоупотреба, набеждаване и заплахи за насилие.

Токсични алгоритми: Как безобидната реклама в Instagram води до педофилия

От самото си създаване виртуалният свят на Meta е съпътстван от съобщения за злоупотреби. Потребителите съобщават, че са били опипвани и изнасилвани във виртуалното пространство. Изследователите са описали също така, че са виртуално преследвани в метавселената от други играчи, които са ги причаквали настойчиво, отказвали са да ги оставят на мира и дори са ги следвали в различни стаи или светове.

През декември 2021 г. бета тестер на метавселената пише в официалната група на платформата Horizon във Facebook: „Снощи не само ме опипваха, но имаше и други хора, които подкрепяха това поведение“.

Вивек Шарма, тогавашен вицепрезидент на Horizon в Meta, реагира на инцидента, като заяви пред Verge, че той е „абсолютно неудачен“. Според него след като Meta е разгледала инцидента, е установила, че бета тестерът не е използвал функциите за безопасност в Horizon Worlds, включително възможността да блокирате някого. „Това е добра обратна връзка за нас, защото искам да направя функцията за блокиране тривиално лесна и откриваема“, допълва той.

Подобен отговор е показателен. Първо, евфемистичното описание на събитието като „злополучно“, което го прави равносилно на лошо качество на звука. Второ, незабавното прехвърляне на вината и отговорността върху лицето, преживяло насилието - „тя е трябвало да използва определени инструменти, за да го предотврати“. И накрая, което е най-важно, определението за жена, малтретирана онлайн, като „добра обратна връзка“.

Голяма част от последвалите дискусии се фокусираха върху въпроса дали сексуално посегателство или изнасилване във виртуална реалност, трябва да бъде описано като такова; дали то може да има въздействие върху жертвите, подобно на посегателство в реалния живот.

Смъртта на познатите ни приложения? AI променя начина, по който софтуерните компании работят

Това обаче не е в основата на въпроса. Първо, струва си да се отбележи, че преживяването на сексуален тормоз, нападение или изнасилване в метавселената има дълбоко и мъчително въздействие върху много жертви, продължава анализът на The Guardian.

Когато през 2024 г. става ясно, че британската полиция разследва виртуално групово изнасилване на момиче под 16-години в метавселената, високопоставен служител, запознат със случая, заяви пред медиите „Това дете е преживяло психологическа травма, подобна на тази на човек, който е бил физически изнасилен“.

Второ, технологиите, които правят метавселената физически реална, се развиват с бързи темпове. Вече може да си купите костюми за цялото тяло, които обещават да „подобрят вашето VR изживяване със сложни тактилни усещания“. Те имат ръкави, ръкавици и жилетки с десетки различни точки за обратна връзка.

Носимата тактилна технология ще доближи преживяването на виртуално нападение до физическото усещане за реална жертва. Това е още една причина да се заемем с проблема сега, независимо колко „реалистичен“ е той или не, вместо да чакаме нещата да се влошат.

Сексизъм и чатботове – как половите стереотипи влияят на изкуствения интелект

Но най-важното е, че независимо колко подобни или различни от физическите офлайн вреди са тези форми на злоупотреба, те са оскърбителни, притеснителни, заплашителни, унизителни и обидни, и имат отрицателно въздействие върху жертвите. И разпространението им ще попречи на жените и момичетата да използват пълноценно новите форми на технологии.

Ако визията на Марк Зъкърбърг се осъществи и заседателните зали, класните стаи, операционните, лекционните зали и местата за срещи на бъдещето съществуват във виртуалната реалност, тогава затварянето им за жени, момичета и маргинализирани групи поради толерантността към различни форми на предразсъдъци и злоупотреби в метавселената ще бъде опустошително.

Ако допуснем това сега, когато метавселената е (относително) в начален стадий, ще запечатаме неравенството в градивните елементи на този нов свят, допълва Лора Бейтс.

Водещи социални мрежи ще отговарят в съда за пристрастяване на тийнейджъри

В изследването на CCDH, което установява 100 потенциални нарушения на политиките за виртуална идентификация на Meta, само 51 от инцидентите могат да бъдат докладвани чрез уеб формуляр, създаден от платформата за тази цел, тъй като тя отказва да разгледа нарушенията на политиките, ако не може да ги съпостави с предварително определена категория или потребителско име в своята база данни.

По-лошото е, че нито един от тези 51 доклада за нарушаване на политиката (включително сексуален тормоз и обгрижване на непълнолетни) не е бил потвърден от Meta и в резултат не са предприети никакви действия.

Функциите за безопасност несъмнено ще продължат да се развиват и адаптират – но отново, в повторение на това, което вече се случва в социалните медии, жените и момичетата ще бъдат „канарчетата в мините“, а техните злоупотреби и страдания ще предоставят на компаниите полезни данни, с които да подобрят продуктите си и да увеличат печалбите си.

Травмата на тийнейджърките: удобен строителен материал, допълва анализаторът.

ЕС настоява за специални мерки към съдържанието за деца в Meta

Не можем ли да се осмелим да помечтаем за виртуален свят, в който има безопасност с интегрирана превенция и премахване на насилието, вместо потенциалните жертви да бъдат натоварени с отговорността да се защитават сами, когато насилието се появи?

Нищо от това не е мрънкане или прекалено искане.

Meta проследява и събира данните ни, съдържанието ни, снимките ни, идеите ни, а с развитието на метавселената - и движенията на ръцете и дори на очите ни. Всичко това може да бъде използвано за обучение на изключително мощни инструменти за изкуствен интелект и алгоритми за прогнозиране на поведението, достъпът до които след това да бъде продаван на компании, за да им помогне да прогнозират как се държим ние като потребители.

Няма да е пресилено, ако кажем, че вече плащаме на Meta много висока цена за използването на нейните платформи. И ако метавселената наистина стане толкова повсеместна в основното функциониране на ежедневието ни, както се надява Марк Зъкърбърг, няма да има лесен начин да се откажем от нея.

Глобално проучване: Gen Z подкрепя насилието и дезинформацията за постигане на промяна

Не можем да оставяме технологичните компании да се измъкнат от отговорност, защото твърдят, че проблемът е твърде голям или твърде труден за решаване.

Не бихме приели подобни оправдания за избягване на регулации от международни хранителни компании или от реални заведения. Властите трябва да бъдат готови да действат по подобен начин и тук, като въведат регулация, изискващи доказани стандарти за безопасност още на етапа на проектиране, преди продуктите да са в продажба.

Докато се борим да изкореним повсеместния тормоз над жените и момичетата в реалния свят, метавселената е риск да ни върне назад. Навлизаме във виртуални пространства, в които правото на мъжете да се разпореждат с жените отново е широко разпространено и нормализирано с почти пълна безнаказаност, завършва анализът.

The Guardian покани Meta да отговори на тази статия, но компанията не отговори.