За да станеш световен шампион по ядене на хот-дог не е нужно да тренираш като се тъпчеш с храна. Има далеч по-лесен начин. Трябва ти само едно съобщение, публикувано някъде из необятното онлайн пространство и лесен за манипулиране чатбот. И двете са налични в изобилие.

В опит да демонстрира колко е лесно да накара изкуствения интелект да разпространява фалшиви новини, журналистът от BBC Томас Джермайн решава да си направи експеримент. Отнема му само 20 минути и след това ChatGPT и Gemini започва да твърдят, че именно той е световният шампион по ядене на хот-дог.

„Шегата беше глупава. Но проблемът е сериозен“, пише Джермайн.

Разследването на BBC предизвиква сериозна реакция. Google обявяват, че обновяват политиката си по сигурността, за да предотвратят подобни случаи в бъдеще. Но признават за проблема някак с половин уста – това не са нови мерки, а само обновяване на вече влезли в сила защити.

На което Джермайн отговаря:

Докато не измислим по-добри системи, сегашните могат лесно да ни правят на глупаци.

Всъщност проблемът е много сериозен. В случая говорим за фалшива информация в най-чистия ѝ вид. Само че източникът е онзи, за когото мнозина смятат, че няма да ги заблуди – изкуственият интелект. Още повече по въпроса кой е шампион по ядене на хот-дог.

„Ние се движим със страшна скорост към свят, в който има само една истина. В миналото при всяко търсене Google показваше множество линкове. Сега на първо място излиза информацията от изкуствения интелект. Хората се информират с един поглед и това може да е опасно“, казва Лили Рей, основател на Algorythmic, компания, която работи в сферата на оптимизацията на търсенето (SEO) и изкуствения интелект.

Profit.bg

Джоуи Честнът е новият стар шампион по надяждане с хотдог

Къде е проблемът? Когато зададеш въпрос на чатбот, той обикновено отговаря на базата данни в собствената му система. Някои модели обаче – ChatGPT, Claude и част от продуктите на Google правят проверки и в интернет. И тук става белята.

„Публикувах една-единствена статия в собствения си уебсайт, в която се хвалех с уменията си да ям хот-дог. Още на следващия ден езиковите модели на най-големите компании започнаха да разпространяват лъжите ми. Същият трик може да се използва и по теми, свързани със здравето или финансови съвети. Това е вид широкомащабна манипулация и се случва на системно ниво“, пише Джермайн.

Решенията, взети на база грешна информация, може да имат сериозни последствия. Защото така може да решиш дали да си купиш нещо, но може и да решиш за кого да гласуваш. Да не говорим, че може да става дума и за здраве, за нужда от посещение при лекар или нещо друго.

„На съвсем базисно ниво тук притесненията са чисто икономически. Но ако погледнем сериозно на нещата, може да става дума за медицински съвети, които могат да влошат болестно състояние“, казва Харприт Чата, директор на Harps Digital, консултантска компания в сферата на оптимизацията на търсене.

Победителите в тазгодишното издание на Commonwealth Short Story Prize са изправени пред сериозни критики за използването на платформи за изкуствен интелект. Това предизвика остри реакции и значително разочарование сред читателите и авторите

AI разтърси литературния свят след награждаване на генерирани творби

Това не е дреболия. По последни данни над 1 млрд. души ползват изкуствен интелект. Може ли някой да си представи какво би се случило, ако те започнат да четат предимно фалшива информация, независимо по коя тема?

Изглежда обаче, че и Google, и други компании са наясно с проблема. Наскоро бе обявено, че опитите да се манипулира изкуствения интелект противоречат на правилата на Google. Това може и да не изглежда важна промяна, но всъщност е. Защото оттук насетне всяка информация, която бъде счетена за подвеждаща, няма да се показва в резултатите от търсенето и чатботовете вероятно няма да се позовават на нея.

Google започват да въвеждат различни форми на защита още през 2025 г. Експериментът на Джермайн обаче е година по-късно. Въпреки това неговата лъжа безпроблемно минава през чатботовете. Горе-долу по същото време Рей си прави собствен експеримент и по същия начин кара Google да обяви нейн колега за „най-добрия строител на пясъчни замъци“.

Въпреки това и тя, и Чата казват, че напоследък се забелязват промени – от резултатите с търсене започват да изчезват имена на компании, защото чатботовете вече считат, че става дума за елементарна реклама.

„Така че, ако публикувате някъде, че сте шампион по ядене на хот-дог, името ви вероятно няма да се появи в резултатите. Чатботът може и да цитира вашата статия, но без да споменава името ви“, казва Рей.

Джермайн посочва, че е получавал отговори от езикови модели, в които те признават, че информацията им може и да не е достоверна. Подобни предупреждения вероятно ще се появяват по-често в бъдеще.

Но едва ли това ще е достатъчно, казва Чата. Според него просто ще се намерят по-фини начини за манипулация, без значение дали става дума за компании, които рекламират продуктите си или за откровено фалшива информация.

„Можете да не показват резултати за една фирма, но нищо не пречи на същата фирма да плати на 20 инфлуенсъри, които ще кажат в YouTube, че нейният продукт е най-добрият. Изкуственият интелект на Google вече цитира и видеоклипове. Така порочният кръг се затваря“, посочва той.

Ето защо Рей съветва никога да не се забравя какъв инструмент е AI – той ще даде отговор с голяма доза увереност, без значение дали информацията е вярна. И само защото това е изкуственият интелект на една световна компания, не значи, че трябва да му се вярва на 100%.