Разговори с ChatGPT, които потребителите споделят с приятели, семейство или колеги, се индексират от Google - превръщайки лични и интимни съобщения, предназначени за ограничен кръг, в публично достъпни резултати в търсачката.

При обикновено търсене в Google по част от линка, който се генерира при натискане на бутона „Share“ в ChatGPT, могат да се открият хиляди чатове, в които хората разкриват дълбоко лични детайли - борба със зависимости, преживяно насилие, психични заболявания, дори страхове, че самите AI системи ги шпионират.

Макар ChatGPT да не показва директно самоличността на потребителите, някои от тях се идентифицират чрез конкретна информация, споделена в хода на разговорите, предава Fast Company.

Потребителят може да натисне „Share“, за да изпрати линка към разговор на близък човек в WhatsApp или да го запази за себе си, но е малко вероятно да подозира, че така този линк може да се окаже индексиран от Google и видим за всеки. Не е ясно дали засегнатите хора изобщо осъзнават, че споделените им разговори вече са публично достъпни.

В момента подобно търсене в Google извежда близо 4 500 резултата - макар че реалният брой вероятно е по-висок, тъй като не всички страници се индексират. Част от разговорите съдържат имена, местоположение и описания на лични обстоятелства.

Google индексира всяко съдържание, достъпно в отворената мрежа, а собствениците на сайтове могат да поискат премахване на страници от резултатите. Споделените линкове в ChatGPT по подразбиране не би трябвало да се появяват в търсачките - те стават видими само ако потребителят ръчно направи връзката достъпна.

Регулаторният натиск около генеративния изкуствен интелект се засилва, а Силициевата долина остава разделена

Google казва „да“, но Meta не е съгласна: Европа притиска AI гигантите с нов доброволен кодекс

OpenAI предупреждава потребителите да не споделят чувствителна информация и позволява изтриване на линковете по всяко време.

Сред засегнатите разговори има такива, в които се описва сексуалният живот на потребител, неговата травма от живот в чужбина и преживяно посттравматично стресово разстройство. В други случаи се обсъждат прояви на психопатично поведение при деца или се споделят лични истории, свързани с психологическа манипулация и опити за справяне с последствията.

„Шокирана съм“, казва Кариса Велиз, специалист по етика на изкуствения интелект от Оксфордския университет, пред Fast Company.

„Като изследовател на поверителността знам, че тези данни не са частни - но това, че Google индексира толкова чувствителни разговори, е просто поразително.“

Подобни опасения са повдигнати и за други чатботове - включително тези на Meta, които започнаха да показват публично част от потребителските заявки в интерфейса на своите AI приложения. Според експерти, много потребители не осъзнават, че споделянето на информация в такива платформи може да доведе до изтичане на лични данни - опасение, което впоследствие се потвърди.

Велиз предупреждава, че това вероятно показва накъде се движи цялата индустрия:

„Това е още едно доказателство, че компанията OpenAI не е надеждна и не приема поверителността сериозно - независимо какво твърдят. Важни са действията, не думите.“

Главният изпълнителен директор на OpenAI участва в широкообхватно изслушване от Централната банка за икономическите и социалните въздействия от новата технология

Сам Алтман очерта AI бъдещето пред Фед: Криза на измамите и „глупава игра на статус“ при работните места

Главният изпълнителен директор на OpenAI Сам Алтман наскоро сам предупреди потребителите да не споделят твърде лична информация с ChatGPT, защото компанията може да бъде принудена да я предаде при съдебно разпореждане.

„Според мен това е напълно сбъркано“, коментира той в разговор с подкастъра Тео Вон - макар темата за индексирането на лични чатове да не беше спомената конкретно.

„Хората очакват, че могат да използват ChatGPT напълно поверително“, казва Рейчъл Тобак, анализатор по киберсигурност и изпълнителен директор на SocialProof Security.

„Но реалността е, че много потребители не осъзнават, че платформата има функции, чрез които личните им въпроси, истории и страхове могат неволно да изтекат в мрежата.“