Бивш високопоставен служител на Meta свидетелства, че Instagram не успява да защити тийнейджърите от сексуален тормоз.

В ключово свидетелство пред Конгреса на САЩ Артуро Бехар, бивш високопоставен служител на Meta, компанията майка на Instagram и Facebook, изразява сериозна загриженост относно неспособността на Instagram да защитава адекватно тийнейджърите от сексуален тормоз.

Бехар, който е работил в Meta от 2009 до 2015 г. и след това от 2019 до 2021 г., споделя пред BBC, че решението му да сигнализира за недостатъците на платформата може би е сложило ефективен край на кариерата му в технологичната индустрия. Той е втори свидетел, след Франсис Хоугън, друга бивша служителка на Meta, която изнася вътрешни документи и изследвания пред новинарски организации и Сената.

Meta е подложена на все по-засилен контрол заради последиците от използването на платформите и, особено сред по-младите потребители. Компанията многократно подчертава действията си за повишаване на безопасността на тийнейджърите онлайн, като твърди, че е въвела "над 30 инструмента", предназначени за създаване на сигурна дигитална среда за подрастващите, пише CNBC.

Съдебни документи разкриват, че X (Twitter) злоупотребява с лични данниМинистерството на правосъдието на САЩ твърди, че Мъск е създал

Бехар, който по време на своето назначение изпълнява ключова роля в повишаването на онлайн безопасността, твърди, че въпреки добрия напредък в началото, ситуацията придобива смущаващ обрат - разкритие, което той прави благодарение на опита на дъщеря му с Instagram.

В интервю за BBC Бехар разкрива, че дъщеря му, която е на 14 години, се е сблъскала с нежелани сексуални намеци и тормоз малко след като той се присъединява към платформата.

"Когато говорехме за това, се оказа, че всички нейни приятели са преживявали същото. Бях шокиран. Тя каза, че не е имало какво да направи, защото не е имала опция да докладва това", обяснява Бехар.

Бехар подчертава в интервюто за BBC редкия двупартиен консенсус по отношение на необходимостта от законодателство за защита на младите потребители на социалните медии, заявявайки: "Намираме се в много необикновено време, в което има консенсус в целия политически спектър относно спешността и необходимостта от приемане на законодателство, което да защитава нашите деца, всички наши деца."

Meta налага етичен подход за обучение на своя водещ AI асистентMeta AI е най-значимият продукт сред първите ориентирани към потребителите AI инструменти на компанията

Първата медийна изява на Артуро Бехар беше миналата седмица пред The Wall Street Journal.

Изданието разказа, че през есента на 2021 г. той е изпратил на главния изпълнителен директор Марк Зъкърбърг необичайно съобщение, което гласи:

„Бих искал да привлека вниманието ви към това, което според мен е критична празнина в начина, по който ние като компания подхождаме към вредата, и как хората, на които служим, я преживяват. Въпреки че Meta редовно публикува публични доклади, в които се предполага, че до голяма степен се справя с проблемите с безопасността на своите платформи, компанията се самозалъгва“.

Експертът откроява в писмото си една стряскаща статистика: един на всеки осем потребители под 16-годишна възраст казва, че се е сблъсквал с нежелано сексуално съдържание в платформата през предходните седем дни.

За Бехар това откритие не е изненада. Той знае, че дъщеря му и нейните приятелки получават непоискани интимни снимки и други форми на тормоз в платформата от 14-годишна възраст. Той допълва, че системите на Meta обикновено игнорират техните оплаквания и или отговорът им е, че тормозът не нарушава правилата на платформата. Бехар цитира и дъщеря си, според която, ако единствената реакция срещу изпращащите подобно съдържание е да бъдат блокирани от получателите му, те ще продължат да го правят.

Бехар посочва още, че в името на благополучието на своите потребители Meta трябва да промени курса и да се фокусира върху справянето с подобни преживявания. Компанията ще трябва да събере данни за това какво разстройва потребителите и след това да работи за борба с източника на това, като подтиква тези, които са накарали другите да се чувстват неудобно, да подобрят поведението си и да изолира общностите от потребители, които умишлено се опитват да навредят на другите.

„Обръщам се към вас, защото вярвам, че всичко това ще изисква промяна на културата“, пише още Бехар до Зъкърбърг, според когото компанията ще трябва да признае, че сегашният ѝ подход към управлението на Facebook и Instagram не работи. Той обаче допълва любезно: „Знам, че всички в екипа дълбоко се интересуват от хората, на които служим.“

Две години по-късно проблемите, които Бехар идентифицира, остават неразрешени и се появяват нови. През юни компанията стартира работна група, фокусирана върху безопасността на децата след разкритията, че Instagram култивира връзки между широкомащабни мрежи от потребители на педофилско съдържание, пише WSJ.

Помолен за коментар относно статията, основаваща се на вътрешни документи на Meta, прегледани от The Wall Street Journal, както и на интервюто с Бехар и настоящи и бивши служители, говорител на Meta оспорва твърдението, че компанията обръща твърде малко внимание на потребителското изживяване. По време и след времето на Бехар като консултант, Meta е пуснала няколко продуктови функции с цел да отговори на някои от констатациите на екипа, отговарящ за благосъстоянието на потребителите. Тези функции включват предупреждения преди публикуване на коментари, които автоматизираните системи на Meta маркират като потенциално обидни, и напомняния към потребителите да бъдат любезни, когато изпращат директни съобщения.

Meta разработва нова, по-мощна AI система Компанията майка на Facebook иска системата ѝ да надмине най-усъвършенствания модел на OpenAI

За консултант Артуро Бехар има необичайно дълбоки корени в компанията. Той е нает за първи път като инженерен директор на Facebook през 2009 г. Отговаряйки за защитата на потребителите на платформата, първоначално гледа на задачата като на традиционна работа по сигурността, изграждане на инструменти за откриване на опити за хакване, борба с измами и премахване на забранено съдържание.

Бехар обича работата си, но напуска Facebook през 2015 г., защото се развежда и иска да прекарва повече време с децата си, разказва още WSJ. Той също така може да си позволи да прекара следващите няколко години в хобита - включително възстановяване на ретро автомобили с 14-годишната му дъщеря, която документира новото си забавление в Instagram.

Тогава започват проблемите. Момиче, реставриращо стари коли, неминуемо привлича внимание, както и груби коментари. Потребител ѝ пише, че единствената причина хората да гледат видеоклиповете ѝ е заради бюста ѝ.

„Моля, не говорете за малолетния ми бюст“, изстрелва дъщерята на Бехар, преди да съобщи за коментара му на Instagram. Няколко дни по-късно платформата ѝ отговоря: обидата не нарушава правилата на общността.

Бехар е потресен – още повече, когато научава, че почти всички приятелки на дъщеря му са били подложени на подобен тормоз, а Instagram реагира толкова рядко на съобщения за такова поведение, че момичетата вече не си правят труда да ги докладват.

Бехар започва да засипва бившите си колеги във Facebook с въпроси какво правят, за да се справят с подобно поведение. В отговор компанията му предлага 2-годишна консултантска работа.

Така през есента на 2019 г. Бехар се озовава отново в кампуса на Meta, започвайки работа с т. нар. Well-Being Team на Instagram. Въпреки че не е на висока позиция, той има необичаен достъп до висшите ръководители - хората помнят него и работата му, разказва WSJ.

От самото начало среща пречки пред всяко усилие за справяне с широко разпространените проблеми, с които се сблъскват потребителите на Instagram: вътрешната статистика на Meta предполага, че не съществуват големи проблеми.

Според критиците, подобни инструменти насърчават нереалистична представа за красота

По време на четирите години, които Бехар е прекарвал далеч от компанията, Meta е започнала да предприема изключително автоматизиран подход към управлението на потребителското поведение. Инженерите съставят набори от данни за неприемливо съдържание – свързано с тероризъм, порнография, тормоз и др., като след това обучават моделите чрез машинно обучение да проверяват бъдещо съдържание за подобен материал.

Според показателите на компанията подходът е изключително ефективен. В рамките на няколко години 99% от неподходящото съдържание, което е премахнато, е отстранено без потребител да е съобщил за това. Въпреки че потребителите все още могат да маркират съдържание, което ги тревожи, Meta добавя нови стъпки към процеса на докладване. Промените имат за цел да обезсърчат несериозното докладване и да образоват потребителите относно правилата на платформата.

От своя страна Бехар смята, че системите не улавят голяма част от забраненото съдържание. Учен по данни предупреждава, че класификаторите на Meta са достатъчно надеждни, за да премахнат само малък едноцифрен процент реч на омразата с каквато и да е степен на точност.
Гай Розен, ръководител на политиките за почтеността на Facebook по това време, отговаря: „Марк цени свободата на изразяване преди всичко и бих казал, че това е функция, а не грешка“.

Също така в подкрепа на статистиката на Meta са и правилата, разписани недостатъчно широко, като по този начин забраняват само недвусмислено обидното съдържание. Правилата на Meta не забраняват ясно на възрастните да наводняват секцията за коментари на публикации на тийнейджъри с емотикони с целувки или да публикуват снимки на деца по бельо, като приканват своите последователи да „видят повече“ в частна група, посочва WSJ.

Така разписаните правила и ненадеждните автоматизирани системи оставят много място за неподходящо поведение, но пък правят статистиката на компанията за безопасността на децата да изглежда доста добра според избрания показател от Meta: разпространението.

Дефинирано като процент от съдържанието, гледано в световен мащаб, което изрично нарушава Meta правило, разпространението е предпочитаният от компанията измерител за проблемите, които потребителите срещат. Според статистиката на Meta по този показател, експлоатацията на деца е толкова рядка в платформата, че не може да бъде надеждно оценена.

Съдържанието, за което се смята, че насърчава самонараняването, като хранителни разстройства, е също толкова минимално, а нарушенията на правилата за малтретиране и тормоз се срещат само в осем от 10 000 гледания.

„Има проблем с оценяването на собственото домашно“, казва пред WSJ Звика Кригер, бивш директор по отговорни иновации в Meta, който работи с екипа за благосъстояние. „Meta определя какво представлява вредното съдържание, така че оформя и дискусията за това колко успешна е в справянето с него.“

Как създаденият от любов уиджет Locket стигна до App Store Awards 2022От стартирането си в самото начало на 2022 г., Locket има над 30 милиона регистрации

Свидетелят твърди, че Meta може лесно да въведе бутон, позволяващ на тийнейджърите да отбелязват съобщенията като сексуални предложения, като привеждат личния си опит като доказателство. "Мога да говоря от първа ръка за това колко лесно е да се създаде бутон и брояч", твърди той. Въпреки това смята, че нежеланието на Meta да направи това се дължи на липсата на прозрачност по отношение на вредата, с която се сблъскват тийнейджърите в Instagram. "Ето защо излизам напред точно сега,. това е моето оттегляне от технологиите".

Говорител на Meta информира BBC, че компанията е въвела няколко функции, насочени към защита на тийнейджърите онлайн, включително анонимни известия за потенциално вредно съдържание. "Всеки ден безброй хора в и извън Meta работят върху това как да помогнем на младите хора да бъдат в безопасност онлайн. Работейки с родители и експерти, ние също така въведохме над 30 инструмента в подкрепа на тийнейджърите и техните семейства, за да имат безопасен и положителен опит онлайн."

Meta, заедно с други социални платформи, в момента се бори с няколко съдебни дела в САЩ относно въздействието на платформите за социални медии върху психичното здраве на тийнейджърите. През октомври десетки американски щати подадоха съдебен иск, в който обвиниха Мета, че е подвеждала обществеността относно рисковете от използването на социалните медии и е допринесла за кризата в психичното здраве на младежите.