„Това може да подпали страната“: AI и изборите в Индия

През ноември Мураликришнан Чиннадурай гледа онлайн събитие на тамилски език на живо, когато забелязва нещо странно.

Жена, представена като Дуварака, дъщерята на Велупилай Прабхакаран, вожд на тамилските тигри, произнася реч.

Проблемът е, че Дуварака е загинала преди 15 години при въздушен удар в последните дни на гражданската война в Шри Ланка. Тялото ѝ така и не е намерено. Във видеото обаче, тя е тук и призовава тамилците да продължат политическата борба за свобода.

Чиннадурай, специалист по проверка на фактите в южния индийски щат Тамил Наду, наблюдава внимателно видеото, забелязва грешки и определя, че жената е генерирана от изкуствен интелект, разказва BBC.

„Това е емоционален въпрос в Тамил Наду и с наближаващите избори дезинформацията може бързо да се разпространи.“, обяснява тя.

Анатомия на дълбокия фейк: Как се създават събития, които не са се случвали

В Индия има изобилие от съдържание, генерирано от изкуствен интелект – от видеоклипове за предизборната кампанията до персонализирани аудиосъобщения на редица индийски езици и дори автоматични обаждания до избирателите с гласа на кандидата.

Създатели на съдържание като Шахид Шейх дори се забавляват, използвайки инструментите на AI, за да покажат индийските политици в аватари, в които не сме ги виждали: облечени в спортни облекла, пускащи музика и танцуващи.

Но инструментите стават все по-усъвършенствани, което притеснява експертите за последиците от тях, когато става въпрос за създаване на фалшиви новини.

„Слуховете винаги са част от предизборната кампания. Но в епохата на социалните медии те могат да се разпространят като горски пожар", казва Сий Куреши, бивш главен избирателен комисар на страната.

„Това може да подпали страната“, предупреждава той.

Политическите партии в Индия не са първите в света, които се възползват от последните разработки в областта на изкуствения интелект. Точно отвъд границата, в Пакистан, той позволи на Имран Хан да говори на митинг, въпреки че е в затвора.

А в Индия министър-председателят Нарендра Моди също се възползва по най-добрия начин от новата технология за ефективна кампания, като направи обръщение към аудиторията на хинди, което с помощта на създадения от правителството инструмент за AI Bhashini след това беше преведено на тамилски в реално време.

Но изкуственият интелект може да се използва и за манипулиране на думи и послания.

Миналия месец два вайръл видеоклипа показаха как боливудските звезди Ранвир Сингх и Амир Хан агитират за опозиционната партия Конгрес. И двамата подадоха жалби, като заявиха, че това е дийпфейк, направен без тяхно съгласие.

Тръмп с белезници, папата с пухенка. Фейк реалността на AI ужасява медиитe

На 29 април министър-председателят Моди изрази загриженост, че изкуственият интелект се използва за изопачаване на речи на висши лидери на управляващата партия, включително и негови. На следващия ден арестуваха двама души, един от опозиционната партия „Аам Аадми“ (ААП) и един от партията на Конгреса, във връзка с подправен видеозапис на вътрешния министър Амит Шах.

Партията „Бхаратия Джаната“ (БДП) на Моди също се сблъска с подобни обвинения от опозиционните лидери в страната.

Проблемът е, че въпреки арестите, според експертите не съществува цялостна регулация. Което означава, че „ако ви хванат да правите нещо нередно, в най-добрия случай може да ви ударят шамар“, смята Шринивас Кодали, изследовател на данни и сигурност. В отсъствието на регулация създателите на съдържание обясняват пред BBC, че трябва да разчитат на личната си етика, за да решат по какви проекти да работят и по какви не.

Според информация на BBC, сред заявките от политици има създаване на порнографски изображения и записи на техни съперници, за да се навреди на репутацията им.

Дезинформацията по време на изборите в САЩ е проблем за Sora на OpenAI, призна Мира Мурати

Дивиендра Сингх Джадун е основател на индийската компания The Indian Deepfaker (TID), която създава инструменти, помагащи на хората да използват софтуер с отворен код за изкуствен интелект, за да създават предизборни материали за индийски политици.

Той настоява за отказ от отговорност върху всичко, което създава, за да е ясно, че не е истинско. Но това все още е трудно да се контролира.

„Това, което преди ни отнемаше 7-8 дни, сега може да бъде създадено за три минути. Трябва ви само компютър.“, обяснява експертът.

Въпреки рисковете Индия заяви, че не обмисля да приеме закон за изкуствения интелект. През март т.г. обаче властта започна да действа, след като се вдигна шум за отговора на чатбота Gemini на Google на запитването: „Моди фашист ли е?“

Microsoft, OpenAI и Google се включиха в пакт за борба с AI фалшификати

Раджеев Чандрасекхар, министър на информационните технологии на страната, заяви, че чатботът е нарушил законите за информационните технологии на страната.

Индийското правителство поиска от технологичните компании да получават изричното разрешение, преди да пуснат публично „ненадеждни“ или „недостатъчно тествани“ генеративни модели или инструменти за изкуствен интелект. То предупреди срещу реакциите на тези инструменти, които „застрашават целостта на изборния процес“.

Но това не е достатъчно: проверяващите факти казват, че да се справиш с разобличаването на такова съдържание е трудна задача, особено по време на изборите, когато дезинформацията достига своя връх.

„Фалшивата информация се разпространява със 100 км в час“, казва Чиннадурай и допълва: „Опроверганата информация, която разпространяваме, се движи с 20 км в час.“