Допреди няколко години животът на М.Г. (инициалите са променени от съображения за сигурност) протича напълно нормално. Тя работи като личен асистент в Скотсдейл, Аризона, а през уикендите допълва доходите си като сервитьорка. Както много хора на нейната възраст, тя поддържа профил в Instagram, където споделя моменти от ежедневието си, включително срещи с приятели, тренировки по пилатес и снимки край басейна. Профилът ѝ има около 9000 последователи – значителна аудитория, но далеч от статута на инфлуенсър.

„Никога не съм искала да бъда популярна в социалните мрежи“, споделя тя пред WIRED. „Просто ги използвах, за да споделям живота си с най-близките си.“

Ситуацията се променя през миналото лято, когато М.Г. получава тревожно съобщение от последовател. Той я информира, че в Instagram се разпространяват видеа и снимки на жена, която изглежда идентично с нея. След като отваря изпратения линк, М.Г. вижда лицето си дигитално поставено върху чуждо тяло. Жената на кадрите е оскъдно облечена, а татуировките ѝ съвпадат с тези на М.Г.

„Ако не ме познавате добре, със сигурност бихте си помислили, че това съм аз. Това беше отрезвяващ момент, в който осъзнах, че нямам контрол върху собствения си образ“, споделя тя пред WIRED.

Истинският шок за М.Г. настъпва, когато разбира, че дигитално манипулираните ѝ снимки не само се разпространяват в социалните мрежи, но и се използват като рекламни материали за платформата AI ModelForge. Тази платформа, срещу абонамент, обучава мъже как да създават свои „AI инфлуенсъри“.

Певицата е подала заявление и за патентоване на нейна снимка на сцената, на която свири на розова китара и е облечена в костюм с пайети, емблематичен образ от световното й турне Eras

Тейлър Суифт регистрира гласа си като търговска марка, за да се защити от AI

В поредица от онлайн уроци и видео ръководства основателите на платформата обясняват подробно как се използва специализиран софтуер на име CreatorCore. Абонатите се обучават да тренират AI със снимки на нищо неподозиращи жертви и да публикуват генерираното съдържание в платформи като Instagram и TikTok с цел печалба.

„Те предоставят пълно ръководство, включително инструкции как да избереш човек, който не може да се защити. Буквално обучават какъв тип жени да се използват и откъде да се вземат снимките им“, споделя М.Г. пред WIRED.

Днес тя е една от трите ищци по дело, заведено по-рано тази година в Аризона срещу създателите на схемата – трима мъже от Финикс и още 50 неидентифицирани съучастници.

Съдебният иск твърди, че обвиняемите умишлено са претърсвали интернет за снимки на момичета, за да генерират фалшиви сексуализирани модели, които след това продават в абонаментни платформи.

Срещу 24,95 долара на месец организаторите са предлагали специализирани курсове с подробни инструкции как да се извличат изображения от социалните мрежи и да се обработват чрез приложения, които автоматично „събличат“ жените и генерират сексуално съдържание. Според документите по делото, този бизнес модел е донесъл милиони гледания и печалби над 50 000 долара само за месец.

Актьорът планира да използва търговски марки, включващи неговия образ, глас и репликата „Alright, alright, alright“, за да противодейства на AI фалшификати в съда

Матю Макконъхи регистрира търговски марки със собствения си образ, за да се бори с AI злоупотреби

До края на миналата година платформата е привлякла над 8000 абонати, които са създали повече от половин милион фалшиви изображения и видеа, превръщайки я във фабрика за експлоатация на чужда самоличност.

Един от най-тревожните аспекти на схемата е умишленият подбор на жертвите. Адвокат Ник Бранд, който представлява М.Г., посочва, че създателите на курсовете са съветвали клиентите си да избират жени с по-малко от 50 000 последователи, за да избегнат евентуални „правни проблеми“.

„Тези хора не само използват генеративен AI, за да създават изображения на жени. Те продават тази възможност и на други, превръщайки жертвите си в рекламно лице на продукт, който вреди на още жени“, заявява Бранд.

Нова платформа предлага на абонатите си връзка с любимците им сред известните. Но на каква цена?

Тя не спи и не яде: Как звезди печелят от своите дигитални секс двойници

Докато САЩ въвеждат нови регулации, премахването на вече публикувано съдържание остава почти невъзможно. Въпреки многократните сигнали на М.Г. за манипулирани профили в Instagram, много от тях остават активни, тъй като изображенията са достатъчно променени от изкуствения интелект и не се считат за директна кражба на самоличност според настоящите правила на платформата.

Случаят на М.Г. служи като предупреждение за всички, обобщава WIRED. В епоха, в която присъствието в LinkedIn или Instagram е част от ежедневието, снимките на всеки потребител могат да се превърнат в ресурс за чужд бизнес. „Искам хората да разберат, че това не е проблем само на известните – това може да се случи на абсолютно всеки“, предупреждава М.Г.