След първата седмица от войната между Израел и Хамас милиони потребители по света се обърнаха към платформите за социални медии като TikTok и Instagram, за да разберат повече детайли за жестокия конфликт в реално време.

Тенденциите в търсенето в TikTok през последните дни илюстрират апетита за информация от първо лице: От "горещи кадри от Израел" до "предаване на живо в реално време", потребителите търсят сурови, нефилтрирани разкази за кризата, която искат да разберат, пише CNN.

В по-голямата си част те успяват, откривайки видеоклипове на разплакани израелски деца, които се борят с постоянството на смъртта, заедно с изображения на шокирани жители на Газа, които седят сред развалини на това, което някога е било дом.

Но същото това търсене на интимен поглед върху войната създава широки възможности за дезинформация, конспиративни теории и пропаганда – зловредни влияния, за които регулаторни органи и изследователи предупреждават, че представляват опасна заплаха за обществените дебати за войната.

Един от последните видеоклипове в TikTok, видян от над 300 000 потребители и прегледан от CNN, популяризира конспиративни теории за произхода на атаките на Хамас, включително неверни твърдения, че те са били организирани от медиите.

Официално: ЕС започва проверка на дезинформацията за Израел и Хамас в X Този ход е първата стъпка, която може да се превърне в разследване съгласно Закона за цифровите услуги

Друго видео, гледано над 100 000 пъти, показва клип от видеоиграта "Arma 3" с надпис: "Войната на Израел". (Някои потребители в коментарите на този видеоклип отбелязват, че са виждали разпространението на кадрите и преди – когато Русия нахлу в Украйна).

TikTok не е единствен.

Публикация в X (Twitter), е гледана над 20 000 пъти и е обявена за подвеждаща от базирания в Лондон орган за наблюдение на социалните медии Reset, тъй като претендира, че показва израелци, които инсценират смърт на цивилни пред камерите. Друга публикация в X, която групата маркира и която е гледана 55 000 пъти, е антисемитско меме с участието на карикатурата Пепе Жабата.

В Instagram широко споделян видеоклип показва парашутисти, които се спускат върху тълпа с надпис "представете си, че посещавате музикален фестивал, когато Хамас скочи с парашут". Видеото беше опровергано през уикенда и всъщност показва парашутисти в Египет. (По-късно Instagram го обяви за фалшиво.)

Тази седмица служители на Европейския съюз изпратиха предупреждения до TikTok, Facebook и Meta (компанията майкана майка на Instagram), YouTube и X, като регистрира съобщенията за подвеждащо или незаконно съдържание за войната в техните платформи и напомни на компаниите, че могат да бъдат глобени с милиарди долари, ако разследване установи, че са нарушили законите на ЕС за модериране на съдържанието.

Законодателите от САЩ и Обединеното кралство също призоваха тези платформи да гарантират, че прилагат своите правила срещу омразното и незаконно съдържание.

От началото на насилието в Израел Имран Ахмед, основател и главен изпълнителен директор на групата за наблюдение на социалните медии Center for Countering Digital Hate, заяви пред CNN, че неговата група е отчела рязък ръст на усилията за замърсяване на информационната екосистема около конфликта.

Социални мрежи на прицел: Законът за интернет съдържание в ЕС влиза в сила Платформите за социални медии, които са на прицел, включват Facebook, Instagram, TikTok, Twitter, YouTube, Snapchat, LinkedIn и Pinterest

"Получаването на информация от социалните медии може да доведе до сериозна дезинформация", казва Ахмед и добавя, че всички - от чуждестранните противници на САЩ до местните екстремисти, интернет троловете и "фермерите на ангажименти" - използват войната в социалните медии за свои лични или политически цели.

"Заобикалящите ни лоши актьори манипулират, объркват и се опитват да създадат измама в платформите на социалните медии", казва Дан Брами, главен изпълнителен директор на израелската компания за разузнаване на заплахи в социалните медии Cyabra, във видеоклип, публикуван в LinkedIn. "Ако не сте сигурни в надеждността на съдържанието, не го споделяйте", съветва той.

Греъм Бръки, старши директор на Лабораторията за цифрови криминалистични изследвания към Атлантическия съвет във Вашингтон, обясни пред CNN, че екипът му е станал свидетел на подобно явление. Тенденцията включва вълна от първосигнална терористична пропаганда, съдържание, изобразяващо насилие, подвеждащи и откровено неверни твърдения, както и реч на омразата – особено "покачване на конкретни ислямофобски и антисемитски разкази".

Голяма част от най-екстремното съдържание, казва той, се разпространява в Telegram – приложение за съобщения с малко контрол за модериране на съдържанието и формат, който улеснява бързото и ефикасно разпространение на пропаганда или графични материали до голяма, специализирана аудитория.

Но по същия начин, по който видеоклиповете от TikTok често се копират и ретранслират в други платформи, съдържанието, споделяно в Telegram и други по-крайни сайтове, може лесно да намери път към основните социални медии или да привлече любопитни потребители от големи сайтове.

MIT представи иновативен софтуер срещу визуални AI манипулации PhotoGuard променя избрани пиксели в изображението, нарушавайки способността на AI да го разбере

Тази седмица училища в Израел, Обединеното кралство и САЩ призоваха родителите да изтрият приложенията на децата си за социални медии поради опасения, че Хамас ще излъчи или разпространи обезпокоителни видеоклипове със заложници, взети през последните дни. Снимки на мъртви или окървавени тела, включително на деца, вече се разпространиха във Facebook, Instagram, TikTok и X тази седмица.

В четвъртък групата за технологичен надзор Campaign for Accountability публикува доклад, в който се посочват няколко акаунта в X, които споделят очевидно пропагандни видеоклипове с икони на Хамас или се свързват с официални уебсайтове на Хамас.

По-рано през седмицата X беше критикуван за клипове, които не са свързани с войната и са представени като кадри от терен, както и за публикация на собственика Илон Мъск, в която той насочва потребителите да следват акаунти, които преди това са споделяли дезинформация (по-късно публикацията на Мъск беше изтрита, а видеоклиповете бяха обозначени с помощта на функцията "бележки на общността" на X).

Някои платформи са в по-добра позиция да се борят с тези заплахи.

Широко разпространените съкращения в технологичната индустрия, включително в екипите по етика и безопасност на някои компании за социални медии, рискуват да оставят платформите по-малко подготвени в критичен момент, твърдят експерти по дезинформация.

Социалните медии през 2024: В окото на перфектната буря от дезинформацияС AI, възможностите за фалшиви новини са неограничени. Потребителят, колкото и да е бдителен, не може да ги различи напълно

Голяма част от съдържанието, свързано с войната, се разпространява и на арабски и иврит, което поставя на изпитание капацитета на платформите да модерират неанглоезично съдържание, при което прилагането му в миналото е било по-слабо, отколкото при англоезичното.

"Разбира се, платформите са се подобрили през годините. Съществуват механизми за комуникация и обмен на информация, които не съществуваха в предишни години. Но те никога не са били тествани по този начин", заяви в сряда в публикация в Threads Брайън Фишман, съосновател на платформата за доверие и безопасност Cinder, който преди това е ръководил усилията на Facebook за борба с тероризма.

"Платформите, които са поддържали силни екипи, ще бъдат подложени на изпитание; платформите, които не са го направили, ще бъдат изтласкани отвъд него."

Линда Якарино, главен изпълнителен директор на X, заяви в писмо до Европейската комисия в сряда, че платформата е "идентифицирала и премахнала стотици акаунти, свързани с Хамас", и работи с няколко групи от трети страни, за да предотврати разпространението на терористично съдържание.

"Ние усърдно предприехме проактивни действия за премахване на съдържание, което нарушава нашите политики, включително: реч на насилие, манипулирани медии и графични медии", каза тя. В четвъртък Европейската комисия официално започна разследване на X след по-ранното си предупреждение за дезинформация и незаконно съдържание, свързано с войната.

X (Twitter) премахва стотици акаунти, свързани с ХамасТози ход беше предприет в отговор на 24-часовия ултиматум от еврокомисаря Тиери Бретон към собственика на социалната мрежа Илон Мъск

Говорителят на Meta Анди Стоун заяви, че след първите атаки на Хамас компанията е създала "център за специални операции, в който работят експерти, включително говорещи свободно иврит и арабски, за да наблюдават отблизо и да реагират на бързо развиващата се ситуация.

Екипите ни работят денонощно, за да поддържат платформите в безопасност, да предприемат действия по отношение на съдържание, което нарушава нашите политики или местното законодателство, и да се координират с трети страни, проверяващи фактите в региона, за да ограничат разпространението на дезинформация. Ще продължим тази работа с развитието на този конфликт.", заяви говорителят.

От своя страна YouTube заяви, че екипите са премахнали хиляди видеоклипове от началото на атаката и продължава да следи за реч на омразата, екстремизъм, графични изображения и друго съдържание, което нарушава политиките. Платформата също така извежда почти изцяло видеоклипове от основните новинарски организации при търсения, свързани с войната.

От Snapchat съобщиха за CNN, че екипът им за дезинформация следи внимателно съдържанието, идващо от региона, като се уверява, че то е в рамките на насоките за общността на платформата, които забраняват дезинформацията, речта на омразата, тероризма, графичното насилие и екстремизма.

TikTok не отговори на запитването за коментар по тази тема.

Подменена реалност: Битката с фалшиви изображения от AI е в ключов етапГенеративният изкуствен интелект е достигнал критична точка по отношение на качеството и достъпността

Големите технологични платформи вече са обект на регулиране, свързано със съдържанието, съгласно нов закон на ЕС, наречен Закон за цифровите услуги, който изисква от тях да предотвратяват разпространението на дезинформация и заблуда, да се справят със "заешките дупки" на алгоритмично препоръчваното съдържание и да избягват възможни вреди за психичното здраве на потребителите.

Но в такъв спорен момент платформите, които поемат твърде тежка роля в модерирането, могат да рискуват обратна реакция и обвинения в пристрастност от страна на потребителите.

Алгоритмите и бизнес моделите на платформите – които по принцип разчитат на популяризирането на съдържание, което е най-вероятно да събере значителна ангажираност - могат да подпомогнат лошите играчи, които създават съдържание, за да се възползват от тази структура, каза Ахмед.

Други продуктови решения, като стъпките на X да позволи на всеки потребител да плати за абонамент за синя отметка "верификация", която дава алгоритмичен тласък на видимостта на публикациите и да премахне заглавията от връзките към новинарски статии, могат допълнително да манипулират начина, по който потребителите възприемат дадено новинарско събитие.

X (Twitter) премахва заглавията на новинарските статииРекламите в платформата обаче все още ще бъдат визуализирани със заглавия

"Фабриките за дезинформация ще предизвикат геополитическа нестабилност и ще навредят на евреите и мюсюлманите през следващите седмици", категоричен е Ахмед.

Дори и компаниите за социални медии да се стремят да скрият най-лошото съдържание от своите потребители - независимо дали от ангажимент към регулацията, от съображения за сигурност на марките на рекламодателите или от собствената си редакционна преценка - продължаващият апетит на потребителите за ясни и близки репортажи от израелци и палестинци на място принуждава платформите да вървят по тънката линия.

"Платформите попадат в тази динамика на търсенето, когато потребителите искат най-новото и най-подробното или най-"истинското" съдържание или информация за събития, включително терористични атаки", каза Бръки.

Но близостта до ситуацията не е едно и също нещо като автентичност или обективност, казват експертите, а вълната от дезинформация, която залива социалните медии, подчертава опасностите от смесването им.

Въпреки че създават впечатление за реалност и истинност, в отделните истории и кадри, предавани чрез социалните медии, често липсва по-широката перспектива и контекст, които журналистите, изследователските организации и дори екипите за модериране на социалните медии прилагат към дадена ситуация, за да постигнат по-пълно разбиране за нея.

"Бъдете много предпазливи при споделянето в разгара на голямо световно събитие", каза Ахмед. "Има хора, които се опитват да ви накарат да споделяте глупости, лъжи, които имат за цел да внушат омраза или да ви дезинформират. И така споделянето на неща, в които не сте сигурни, не помага на хората, а всъщност им вреди и допринася за цялостното усещане, че никой не може да се довери на това, което вижда.", допълва той.