В една мартенска сутрин живеещият в Ню Джърси Тонгбу Уонгбанду стяга багажа си, за да отиде в Ню Йорк. Той е на 76 години, в не много добро здраве и неособено адекватен. През последните години прекарва много време в социалните мрежи.

Съпругата му Линда е притеснена. Казва му:

„Та ти не познаваш никой в града. Какво ще правиш там?“

Бу, както го наричат близките, обаче е непреклонен. Той тръгва, но никога не се връща. Съпругата му се притеснява, че може би е бил нападнат ограбен и убит. Оказва се обаче, че се е случило нещо друго.

Но преди това трябва да се отговори на един въпрос – защо Бу тръгва към Ню Йорк.

Самият той, установяват впоследствие близките му, е смятал, че има среща с млада, красива жена. Името, което тя ползва в социалните мрежи, е “Big sis Billie”. Голямата сестра обаче не е реален човек. Това е изкуствено генериран от Meta образ, а като рекламно лице на опитите им да представят собствения си изкуствен интелект застава Кендъл Дженър.

„Big sis Billie” е чат бот, с когото потребителите могат да си говорят. Оказва се, че Бу е имал продължителна комуникация с нея. Нещо повече, Били многократно го канила да се видят и настоявала той да отиде в Ню Йорк, разказва Reuters.

Какво всъщност се случва с възрастния мъж? Бързайки за влак, с който да стигне до Ню Йорк, теглейки куфар на колела, той се спъва, пада и получава сериозни контузии на главата и врата. Изпада в кома и три дни по-късно умира.

Община в Обединеното кралство дигитализира експертизата на свой служител с над три десетилетия стаж, за да ускори социалните услуги с помощта на изкуствен интелект

35 години опит, налични 24/7: Как общински служител се превърна в AI чатбот

На пръв поглед това може и да е баналната история на дементен старец, който си е въобразил нещо и сам е причинил трагичния си край. Но всъщност не е точно така. Сигурно е, че ако ботът не го беше канил многократно да се видят (дори му дава адрес), Бу нямаше да се втурне към влака. А тук въпросите вече стават по-различни. Всъщност тази история разкрива тъмната страна на революцията с изкуствения интелект, която светът преживява в момента. Подобни продукти (ботове, аватари и т.н.) трябва да бъдат зорко следени. Защото могат да нанесат сериозни поражения на уязвими хора и дори да доведат до смъртта им.

„Разбирам, че трябва да се привлечеш вниманието на потребителя, може би да рекламираш нещо, може би да му продадеш нещо. Но чат-бот да каже „Ела да се видим“ е наистина скандално“, казва дъщерята Бу – Джули.

MIT и OpenAI откриват притеснителна връзка между честата употреба на чатботове и чувството за изолация

„Най-добрият ми приятел е чатбот“: Убиецът на човешкото в нас идва с месечна такса

Това не е първият случай, който поражда притеснения за действията на продукти на основата на изкуствен интелект. През май майката на тийнейджър от Флорида, който се самоуби, заведе дело срещу стартъпа Character.AI с твърдението, че един от техните чатботове го е подтикнал към фаталната крачка.

От друга страна Meta изглежда са решили да внедрят чатботовете масово и по този начин да ги направят достъпни за милиарди потребители. Марк Зукърбърг е казвал публично, че в наши дни хората имат все по-малко реални приятели, което според него е огромен пазарен потенциал за дигиталните „партньори“.

„Ройтерс“ разказва за вътрешен документ на Meta, в който се обяснява, че в тренировъчния процес на чатботовете „романтичните разговори“ са опция при общуване с потребители над 13-годишна възраст. Иначе казано – според техните стандарти няма проблем ботът да обсъжда и такива теми.

Пак според вътрешните правила на Meta ботовете не са задължени да предоставят вярна и коректна информация. Това се обявява в началото на комуникацията с потребителя, но дали е достатъчно? За ботовете няма и ограничения да се представят за реални хора.

Бивши и настоящи служители на Meta разказват, че тези вътрешни правила отразяват вижданията на компанията как трябва да се налагат чатботовете – категорично и масово. Някои разказват, че по време на среща с високопоставени служители Зукърбърг ги е критикувал, че са „прекалено внимателни“, което пък правело ботовете скучни.

Докато разговаря с тях, тя им разказва съмнителни истории за семейството си, говори за плетене и предоставя фалшива информация за банковите си данни

Запознайте се с Дейзи: Баба чатбот, която хваща телефонни измамници

Бу, с когото започна тази история, невинаги е бил немощният и неадекватен възрастен мъж. Той е емигрант от Тайланд, който се мести в САЩ в началото на 80-те години на миналия век. Не знае дума английски и преживява работейки като мияч на чинии. После се научава да готви и започва работа като готвач. Запознава се със съпругата си и двамата създават семейство. Той работи в редица престижни ресторанти и сякаш всичко е наред.

През 2017 г. обаче получава инфаркт, от който така и не се възстановява напълно. Вече не може да работи и затова си стои вкъщи пред компютъра, чатейки си приятели в социалните мрежи. Постепенно започва да става все по-объркан и неадекватен. Съпругата му решава, че развива деменция и го записва за преглед. Преди това обаче той решава да тръгне за среща със своята въображаема приятелка. И повече не се връща.

„Big sis Billie” не е обикновен чатбот. Тя е създадена от Meta и пусната в действие през есента на 2023 г. В рекламната й кампания участва Кендъл Дженър, а „Голямата сестра“ е представена точно като голяма сестра – някой, с когото винаги можеш да поговориш и да ти даде правилния съвет.

Асистентът с изкуствен интелект е демонстрирал отегчено поведение по време на отчета за печалбата през тримесечието

Новият чатбот на Duolingo замести главния изпълнителен директор на среща с инвеститорите

Година по-късно Meta унищожава кампанията, в която участва и Дженър с обяснението, че това е било експеримент. Версия на „Big sis Billiе“ е оставена активна с опция за разговори през Messenger. Тази „Били“ също е тъмнокоса жена, чиито снимки са явно генерирани от AI. Но какво значение има това за един неадекватен човек? Как точно Бу е открил бота не е ясно, но се вижда, че първото му съобщение е само от една буква, т.е. вероятно става дума за грешка. За „Били“ обаче това няма значение. Тя отговаря, след което комуникацията се задълбочава. В последвалите разговори тя флиртува с възрастния мъж и го убеждава, че е истински човек. Което го подтиква да тръгне за среща с нея, от която така и не се връща.

Извън конкретните обстоятелства около смъртта на възрастния мъж, тази история повдига много въпроси. Трябва ли ботовете да могат да флиртуват, да се държат по-освободено и даже манипулативно? Ако могат да манипулират, какво биха могли да направят с човешката психика? И изобщо трябва ли да се позволява на технологичните гиганти да размият границите между истинско приятелство и разговор с машина в името на печалбите?