Порнографски снимки на най-нашумялата музикална звезда в света – Тейлър Суифт, обиколиха социалните медии тази седмица и бързо станаха вайръл.

Оказа се, че те са генерирани от изкуствен интелект, което още веднъж доказва опасния потенциал на технологията да създава убедително реални и вредни изображения.

Фалшивите снимки се разпространиха предимно в X, платформата на Илон Мъск, наричана преди Twitter.

На тях Тейлър Суифт е изобразена в сексуално предразполагащи и откровени пози, което предизвика милиони разглеждания, реакции и коментари, преди да бъдат премахнати от социалните мрежи, пише CNN.

Говорителят на певицата не отговори на запитването за коментар.

„Порно за отмъщение“. Как се бори законът със споделянето на интимни кадриБританската организация Revengepornhelpline съветва жертвите никога да не се паникьосват, а още по-малко да се опитват да избягат от проблема

Подобно на повечето големи социални медии, правилата на X забраняват споделянето на "манипулирано или извадено от контекста медийно съдържание, което може да заблуди или обърка потребителите и да причини вреда".

От платформата обаче също не са отговорили на искането на CNN за коментар.

Инцидентът с Тейлър Суифт се случва в момент, когато САЩ навлизат в годината на президентските избори, а опасенията как подвеждащи изображения и видеоклипове от изкуствен интелект, могат да бъдат използвани за дезинформация и да нарушат вота, нараства все повече.

В година с ключови избори, дезинформацията е основен глобален рискПроучването на Световния икономически форум се отличава с намаляването на опасенията за икономически опасности като инфлация и рецесия

"Това е ярък пример за начините, по които AI създава ситуации с негативни последици, без да има достатъчно предпазни бариери за защита на дигиталния площад", коментира пред CNN Бен Декър, ръководител на Memetica, агенция за дигитални разследвания. Според него, използването на генеративни инструменти с AI за създаване на потенциално вредно съдържание, насочено към всички видове публични фигури, се увеличава и се разпространява по-бързо от всякога в социалните медии.

"Компаниите за социални медии всъщност нямат ефективни планове за задължително наблюдение на съдържанието", обяснява той.

X, например, е съкратила до минимум екипа си за модериране на съдържание и разчита на автоматизирани системи и потребителски доклади. (В момента в ЕС срещу X се води разследване във връзка с практиките за модериране на съдържанието).

DSA в действие: ЕС започва разследване срещу X (Twitter)Това е първата процедура по силата на новия Закон за цифровите услуги на ЕС

Meta на Марк Зъкърбърг също съкрати екипите, които се занимават с дезинформация и координирани кампании срещу тролове и тормоз в платформите си, което породи опасения преди ключовите избори през 2024 г. в САЩ и по света.

Случилото се с Тейлър Суифт съвпада и с възхода на инструментите за генериране на изкуствен интелект, като ChatGPT и Dall-E. Съществува обаче и много по-широк спектър на немодерирани модели на AI, които не са безопасни за работа в платформите с отворен код, допълва Бен Декър.

"Това е показателно за модерирането на съдържанието и управлението на платформите, защото ако всички заинтересовани страни – компаниите за изкуствен интелект, социалните медии, регулаторните органи и гражданското общество - не говорят за едни и същи неща и не са на едно мнение как да се справят с тези проблеми, този тип съдържание ще продължи да се разпространява", категоричен е той.

Тейлър Суифт е „Личност на годината“ на списание Time за 2023 г.На 33-годишна възраст Суифт добавя още едно признание към дългия си списък с успехи и рекорди

Според експерта обаче, насочването на фокуса към Суифт може да увеличи вниманието към нарастващите проблеми с изображенията, генерирани от изкуствен интелект.

Огромният контингент от верни почитатели на звездата изрази възмущението си в социалните медии, като изведе въпроса на преден план.

През 2022 г. сривът на платформата за билети Ticketmaster преди турнето ѝ Eras Tour предизвика вълна от гняв и възмущение в мрежата, което доведе до законодателни усилия за борба с неблагоприятните за потребителите политики за продажба на билети. Може би същото ще стане и с вредните изображения, генерирани от AI, смята Декър.

Най-горещата звезда: Билетът за концерт на Тейлър Суифт достигна $920Дългоочакваното турне на певицата предизвика грандиозен скандал още преди да започне

"Когато имате личности като Тейлър Суифт, които са толкова голяма мишена, може би това ще подтикне законодателите и технологичните компании към действия, защото те не могат да си позволят любимата на Америка звезда да води публична кампания срещу тях. Бих казал, че трябва да я накарат да се почувства по-добре, защото тя вероятно има по-голямо влияние от почти всеки друг в интернет.", допълва той.

Този тип технологии често се използват за създаване на т.нар. "порно отмъщение" - публикуване на снимки на някого онлайн без негово съгласие, но тъй като сега е замесена Тейлър Суифт, това променя реакциите на потребителите.

Понастоящем в девет американски щата има закони срещу създаването или споделянето на дийпфейк изображения, допълва CNN.