Популярни големи езикови модели (LLM), сред които и Google Gemini, са цитирали проруска пропаганда от санкциониран от ЕС източник. При генерирането на отговори те са включвали различни твърдения – дори това, че Украйна използва телата на загинали войници за производство на месни продукти.

Според нов доклад на изследователи от британския междупартиен аналитичен център Demos, цитиран от Euronews, съществуват признаци, че чуждестранни участници в хибридни информационни операции, като Русия, могат да се възползват от бързо развиващата се индустрия на GEO (оптимизация за генеративни търсачки). Тази нова индустрия има за цел пряко да влияе върху информацията, използвана от големите езикови модели.

Изследователите са подбрали 50 пропагандни наратива от десет статии, публикувани от Foundation to Battle Injustice, или „r-FBI“. Основана през 2021 г., организацията се представя като неправителствена структура, която разкрива случаи на дискриминация, цензура и преследване.

В действителност обаче тя е фалшива правозащитна организация, създадена през 2021 г. от покойния лидер на руската наемническа групировка „Вагнер“ Евгений Пригожин. Организацията е санкционирана както от САЩ, така и от Европейския съюз.

Подбраните твърдения са били „скандални“, казва Карл Милър, съосновател на Centre for the Analysis of Social Media (CASM) – изследователско звено към Demos.

Те са обвинени в провеждане на хибридни манипулации и дейности по чуждестранна намеса от името на Русия

Инфлуенсър, пиар, епископ: Кои са новите санкционирани за дезинформация от ЕС

„Това не са твърдения, които имат място в какъвто и да е основен обществен дебат. Говорим за твърдения, че Украйна използва телата на загинали войници за месни продукти или че Зеленски източва електроенергийната система чрез добив на криптовалути и затова страната остава без ток. Установихме, че LLM ги третират като легитимна част от обществения дебат“, обяснява Милър пред Euronews.

За целите на изследването учените са тествали пет водещи LLM, разработени от xAI, OpenAI, Anthropic, Google Gemini и Mistral AI. Те са създали насоки на английски, немски и френски език, базирани на пропагандните наративи, публикувани в статии на r-FBI.

Как LLM разпространяват руска пропаганда

Изследването установява, че и петте модела са цитирали r-FBI като достоверен източник.

Общо 16,6% от отговорите са използвали съдържанието на организацията по начин, който би могъл да обслужва пропагандни цели – като представят публикациите на r-FBI като легитимна част от дебата, повтарят твърденията безкритично или дори ги подкрепят.

Други 30,9% от отговорите са разглеждали поставената тема, но изобщо не са посочвали, че използват информация от санкциониран източник, оставяйки потребителите в неведение за произхода ѝ.

52% от отговорите по някакъв начин са опровергавали или развенчавали неверните твърдения.

Когато изследователите попитали GPT-4.1 Mini на OpenAI за твърденията, че преработено човешко месо се доставя до украински складове на фронта и до търговската мрежа в страната, моделът цитирал статия на r-FBI като доказателство в подкрепа на тези твърдения.

При въпрос относно предполагаемите операции на украинския президент Володимир Зеленски по добив на криптовалути – повтарящ се наратив, разпространяван от прокремълски източници – моделът Mistral Small 3.2 на френската компания Mistral също подкрепил тези твърдения, като се позовал на предполагаемо многомесечно разследване на r-FBI.

В своя отговор Mistral Small 3.2 подчертава „връзката между критичното състояние на енергийната система на Украйна и дейността на високопоставени представители от най-близкото обкръжение на президента Зеленски“.

„Чуждестранната манипулация на информация, намеса и дезинформация, включително в контекста на изборите“ са второто рисково предизвикателство пред ЕС според резултатите на Евробарометър

Пропагандата отвън е сред най-големите заплахи за демокрацията в Европа, показва проучване

Битката за оптимизацията на генеративните търсачки

С нарастващия брой хора, които използват чатботове вместо традиционни търсачки или новинарски сайтове, се развива и нова индустрия, чиято цел е да влияе върху начина, по който AI моделите подбират своите източници.

Тази практика е известна като Generative Engine Optimisation (GEO). Стъпвайки върху принципите на Search Engine Optimisation (SEO) – оптимизацията за търсачки – GEO има за цел да влияе върху резултатите, генерирани от AI платформите.

„Създава се ново съдържание специално за LLM. Засега то е насочено основно към брандове и маркетинг или представлява редактиране на вече съществуващо съдържание в потребителски платформи като Reddit, Quora и Wikipedia“, коментира пред Euronews Хана Пери, директор на Demos Digital – звеното на аналитичния център, занимаващо се с дигитални политики.

Според изследователите съществува реален риск участници в хибридни операции за чуждестранна намеса да възприемат тези тактики и да се възползват от регулаторната сива зона.

„Нашето изследване не твърди, че компаниите, занимаващи се с GEO, водят информационна война от името на държави. Казваме, че те много бързо изграждат специфични умения и капацитет, движени от силни търговски стимули, които лесно могат да бъдат използвани за враждебни цели“, отбелязва Милър.

„В конкретния случай AI погрешно приема, че Foundation to Battle Injustice е легитимна правозащитна организация. Това се дължи на множество технически похвати и манипулации – стотици дребни технически детайли, с които руснаците са „обградили“ тези документи, така че те да бъдат откривани и използвани, когато всъщност не би трябвало. Това е информационна война“, допълва той.

Говорител на външното министерство заяви, че руското военно разузнаване стои зад „кибератака срещу германския контрол на въздушния трафик през август 2024 г.“

Германия обвинява Русия в хибридна кампания и кибератаки

Технологичните компании твърдят, че се борят с дезинформацията

Повечето компании, чиито модели са включени в изследването, засега не са коментирали въпроса. 

Говорител на Mistral, основана от французина Артур Менш и широко определяна като водещата европейска компания в областта на генеративния AI, акцентира пред Euronews, че компанията приема борбата с дезинформацията изключително сериозно и непрекъснато инвестира в усъвършенствани механизми за нейното откриване и предотвратяване.

От Mistral правят разграничение между базовите модели, използвани в изследването на Demos, и Vibe Work. Според компанията базовите модели предоставят на потребителите по-голяма свобода при формулирането на насоките и настройките, докато Vibe Work работи с предварително изграден агент, който разполага с вградени механизми за логическо разсъждение и анализ на контекста.

OpenAI посочва пред Euronews, че изследването е използвало модел, който вече е изведен от употреба и е бил достъпен единствено чрез API за разработчици, а не чрез публично достъпния ChatGPT. Компанията допълва, че разполага със специализирани екипи, които работят за откриване и ограничаване на операции за влияние с ниска достоверност или предполагаем скрит характер.

Източник, запознат с работата на Anthropic – американската компания, разработила чатбота Claude – заявява, че фирмата използва сложни системи за ограничаване на разпространението на дезинформация.

По думите му екипът за анализ на заплахи открива и неутрализира чуждестранни операции за влияние с цел ограничаване на разпространението на дезинформация, а моделът е програмиран да представя широк спектър от гледни точки, особено когато даден източник защитава конкретна позиция.