OpenAI съобщи, че е блокирала група акаунти в ChatGPT, свързани с Русия, които според компанията са били използвани за подпомагане на тайна онлайн кампания за влияние и разпространение на дезинформация.

Компанията стигнала до операцията, след като започнала разследване на генерирани с AI публикации в социалните мрежи. То я отвело до „много по-мащабна операция за влияние“, посочва OpenAI в публикация от вторник.

Кампанията била „изградена около уебсайт, съдържащ копирани и неправилно приписани академични трудове, индекс за „суверенитет“, който представя Русия в благоприятна светлина, и опити да бъде прикрит руският произход на хората зад операцията“.

Случаят е поредният пример за проруски групи, които използват AI за разпространение на дезинформация, пише CNBC. OpenAI не предоставя достъп до моделите си в Русия, но според компанията операторите са използвали VPN, за да прикриват местоположението си.

През февруари OpenAI съобщи, че е закрила акаунти в ChatGPT, свързани с Rybar - проруска медийна организация, която според британското правителство е „частично координирана от президентската администрация“ в Москва, финансирана от руската държавна корпорация Rostec и работи с представители на руските разузнавателни служби.

Anthropic вече има по-високи приходи от своя конкурент, докато оперативната загуба на създателя на ChatGPT достигна 12,3 млрд. долара

OpenAI губи темпо: 18% ръст на приходите срещу над 100% при Anthropic

Проруска операция за влияние

Операторите подавали инструкции на руски език към ChatGPT, за да генерират коментари за социалните мрежи, които след това били публикувани в Substack, Telegram, X, Facebook и LinkedIn. Те инструктирали модела и да премахва всякакви езикови следи, които биха могли да издадат, че съдържанието е създадено от руснаци, съобщава OpenAI.

Голяма част от генерираното съдържание популяризирало организация, наречена International Burke Institute (IBI). На сайта ѝ са публикувани материали, копирани от действителни академични трудове, като в някои случаи авторството е било посочвано невярно.

Операцията създала и т.нар. „индекс за суверенитет“, който представял Русия в положителна светлина и давал отрицателни оценки на западни държави.

Макар непосредственият ефект от кампанията да изглежда ограничен, според OpenAI нейното значение се крие по-малко в аудиторията, която е успяла да достигне, и повече в инфраструктурата, която е изградила.

Доверието не се изгражда по време на криза, а много преди тя да започне. Не може да чакате да се случи атака с дезинформация, да публикувате внимателно формулиран отговор и да се надявате, че проблемът ще изчезне, обясняват експерти

Дезинформацията не се интересува от вашите факти – затова започнете с промяна на нагласите

Публикациите, създадени с ChatGPT, насочвали към „институция, която на пръв поглед изглежда достоверна, с предполагаеми експерти, препубликувани академични трудове и представян като собствен индекс за оценка на риска“, посочва компанията.

„Това показва как участници в операции за влияние могат да използват AI като помощен инструмент в по-широки усилия за създаване на привидна авторитетност, прикриване на източника на удобни за тях послания и изграждане на активи, които впоследствие могат да бъдат разширени“, посочва OpenAI.

„Случаят показва и как използването на AI в подкрепа на подобни операции може в крайна сметка да помогне за разкриването на цялата мрежа.“