Папа Франциск носи масивно бяло яке с пух. Илон Мъск се разхожда хванат за ръка с Мери Бара, главен изпълнителен директор на конкурентния GM. Бившият президент на САЩ Доналд Тръмп е арестуван с белезници по драматичен начин.

Нито една от тези новини не се е случила в действителност, но генерирани от изкуствен интелект изображения бяха публикувани в социалните мрежи и за броени минути станаха вайръл по цял свят, споделяни и коментирани от милиони потребители.

Снимките варираха от очевидно фалшиви до убедително реални и така лесно успяха да заблудят потребителите, пише CNN.

Снимките предизвикаха и вълна от новинарски заглавия, тъй като медийните компании побързаха да отразят публикуването на фалшивите изображения, особено тези на Тръмп, който действително беше обвинен от прокурорите в Манхатън, но не беше арестуван.

Ситуацията със сигурност гарантира една достоверна новина: новата онлайн реалност вече е тук.

Появата на новите възможности на изкуствения интелект позволява създаването на реалистични изображения, аудио и видеоклипове по-евтино и лесно от всякога. И те вероятно ще се появяват все по-често в социалните медии.

Какво говори AI пухеното яке на папа Франциск за бъдещето на модатаДрастичното отклонение от типичните мантии, носени в папския дом, предизвика порой от въпроси онлайн

Въпреки че тези инструменти могат да позволят нови начини за творческо изразяване, разпространението на компютърно генерирани медийни текстове, снимки и видеа заплашва да замърси още повече информационната екосистема. Това рискува да увеличи предизвикателствата пред потребителите, новинарските организации и платформите на социалните медии да проверяват кое е достоверно и кое не, след като години наред се бориха с онлайн дезинформация, включваща далеч по-малко сложни визуални материали.

Съществуват и опасения, че изображенията, генерирани от изкуствен интелект, могат да бъдат използвани за тормоз или за допълнително напрежение между разнопосочните мнения на потребителите.

"Притеснявам се, че ще се стигне дотам, че ще има толкова много фалшиво, високореалистично съдържание онлайн, че повечето хора просто ще се ръководят от племенните си инстинкти като ориентир за това, което смятат за реално, а не от действително информирани мнения, основани на проверени доказателства", обяснява Хенри Айджър, медиен експерт и съветник на компании и правителствени агенции, включително на Европейския консултативен съвет на Meta Reality Labs.

Изображенията, в сравнение с текста, генериран от изкуствен интелект, който напоследък също се разпространява благодарение на инструменти като ChatGPT, могат да бъдат особено силни в провокирането на емоции, когато хората ги гледат, обяснява Клер Лейбович, ръководител на отдела за изкуствен интелект в Партньорството за изкуствен интелект, индустриална група с нестопанска цел. Това може да затрудни хората да забавят темпото и да преценят дали това, което гледат, е истинско или фалшиво, допълва Лейбович.

Нещо повече, координираните лоши играчи на медийния пазар биха могли да се опитат да създават масово фалшиво съдържание, или да внушават, че истинското съдържание е компютърно генерирано, с цел да объркат потребителите и да провокират определено поведение.

Лошите писатели стават по-добри; добрите – по-бързи. Защо ни е страх от AI?ChatGPT е на път да направи революция в икономиката. Зависи от нас как ще изглежда тя

През последните години технологията за компютърно генериране на изображения се усъвършенства бързо - от фотош изображение на акула, плуваща през наводнена магистрала, което многократно е споделяно по време на природни бедствия, до уебсайтове, които преди 4 години започнаха да публикуват неубедителни фалшиви снимки на несъществуващи хора.

Много от последните вирусни изображения, генерирани от изкуствен интелект, бяха създадени от инструмент, наречен Midjourney - платформа с по-малко от година история, която позволява на потребителите да създават изображения въз основа на кратки текстови подсказки. На своя уебсайт Midjourney се описва като "малък самофинансиращ се екип", който има само 11 служители на пълно работно време.

Един бегъл поглед към популярната сред потребителите на Midjourney страница във Facebook разкрива генерирани от изкуствен интелект изображения на привидно пияния папа Франциск, възрастни версии на Елвис и Кърт Кобейн, Илон Мъск в роботизиран костюм на Tesla и страховити животински снимки. И това са изображения само от последните няколко дни.

Франкенщайнско или шедьовър: Творбата на Йоханес Вермеер беше включена в изложба в Хага

Най-новата версия на Midjourney е достъпна само за избран брой платени потребители, съобщи главният изпълнителен директор на компанията Дейвид Холц пред CNN. Midjourney спря достъпа до безплатната пробна версия поради "извънредно търсене и злоупотреба", според публикация в Discord от Холц, но той заяви пред CNN, че това не е свързано с вирусните изображения.

Страницата с правилата на сайта Discord на компанията призовава потребителите: "Не използвайте нашите инструменти, за да създавате изображения, които могат да разпалят, разстроят или предизвикат драма. Това включва кървави сцени и съдържание за възрастни".

"Модерацията е трудна и скоро ще интегрираме подобрени системи", коментира Холц пред CNN. "Приемаме много отзиви и идеи от експертите и общността и се опитваме да бъдем наистина внимателни."

В повечето случаи изглежда, че създателите на последните вирусни изображения не са действали злонамерено. Изображенията от ареста на Тръмп бяха създадени от основателя на онлайн изданието за разследваща журналистика Bellingcat, който ясно ги обозначи като свои измислици, докато други потребители на социалните медии обаче не са толкова проницателни.

Онлайн платформи, технологични компании за изкуствен интелект и браншови сдружения също започват да полагат усилия за подобряване на прозрачността кога дадено съдържание е генерирано от компютър.

Платформите за социални медии, включително Meta's Facebook и Instagram, Twitter и YouTube имат политики, ограничаващи или забраняващи споделянето на манипулирани медии, които биха могли да заблудят потребителите.

GPT-4 се сблъсква с първи критики за липса на прозрачностОткритостта е важна, особено когато говорим за трансформираща технология, категорични са критици на модела

Но с нарастването на използването на технологии, генерирани от изкуствен интелект, дори такива политики могат да подкопаят доверието на потребителите. Ако например фалшиво изображение случайно се промъкне през системата на дадена платформа, "това може да създаде фалшиво доверие", според Хенри Айджър. "Те ще си кажат: "има система за откриване, която казва, че това е истинско, значи трябва да е истинско".

Работи се и по технически решения, които биха позволили да се постави воден знак върху изображение, генерирано от изкуствен интелект, или да се включи прозрачен етикет в метаданните на изображението, така че всеки, който го разглежда в интернет, да знае, че е създадено от компютър.

Партньорството за изкуствен интелект разработи набор от стандартни, отговорни практики за социални медии заедно с партньори като създателя на ChatGPT OpenAI, TikTok, Adobe, Bumble и BBC, който включва препоръки, като например как да се разкрие, че дадено изображение е генерирано от изкуствен интелект и как компаниите могат да споделят данни за такива изображения. "Идеята е всички тези институции да са ангажирани с разкриването на информация, съгласието и прозрачността", каза Лейбович.

В писмото, изискващо пауза в разработката на AI, има фалшиви подписи Някои учени недоволстват, че изследванията им са използвани в подкрепа на позицията в писмото без да са дали съгласие

Група технологични лидери, сред които Илон Мъск и съоснователят на Apple Стив Возняк, написаха отворено писмо, в което призоваха лабораториите за изкуствен интелект да спрат обучението на най-мощните системи за изкуствен интелект поне за шест месеца, позовавайки се на "дълбоки рискове за обществото и човечеството". Все още не е ясно дали някоя от тях ще предприеме такава стъпка.

И тъй като технологията бързо се усъвършенства и става достъпна извън сравнително малка група корпорации, ангажирани с отговорни практики, може да се наложи законодателите да се намесят.

"Тази нова ера на изкуствения интелект не може да остане само в ръцете на няколко огромни компании, които забогатяват от тези инструменти, трябва да демократизираме технологията", казва Хенри Айджър.

"В същото време има съвсем реални и основателни опасения, че радикално отвореният подход, при който просто отваряте даден инструмент или имате съвсем минимални ограничения за използването му, ще доведе до масово мащабиране на вредите ... и мисля, че законодателството вероятно ще изиграе роля за ограничаване на някои от по-радикално отворените модели.", допълва експертът.