Милиони хора използват изкуствения интелект не само за работа или търсене на информация, но и за лични разговори, съвети и емоционална подкрепа. Някои споделят с чатботовете подробности от живота си, които не биха разкрили дори пред най-близките си хора.

Какво обаче се случва с тази поверителна информация, ако компанията, която я съхранява, изпадне във финансови затруднения или прекрати дейността си?

Фалитът на Character.AI, платформа, която позволява на потребителите да общуват с виртуални персонажи, показва колко сериозен може да се окаже този проблем. Компанията, привлякла десетки милиони потребители, включително непълнолетни, подаде молба за защита от фалит по Глава 11 от американския Кодекс за несъстоятелността.

Сега част от активите ѝ могат да бъдат продадени, като сред тях потенциално попадат и огромни количества лична информация и потребителски разговори.

Според BBC случаят разкрива един сравнително пренебрегван риск, свързан с изкуствения интелект: компаниите, на които хората поверяват най-личните си тайни, може да не съществуват вечно.

Проблемът обаче далеч не се ограничава до Character.AI. Все повече анализатори предупреждават за възможен балон в сектора на изкуствения интелект. Разработването и поддържането на тези технологии изисква огромни инвестиции, докато перспективите за печалба при част от компаниите остават несигурни.

При сериозен спад на пазара много от тях могат да бъдат придобити от конкуренти, да се слеят с други дружества или да прекратят дейността си. Това повдига въпроса какво ще се случи с информацията, която милиарди хора споделят с подобни услуги.

Продажбата на потребителски данни при фалит не е ново явление. Изкуственият интелект обаче увеличава рисковете заради изключително личния характер на информацията, която хората споделят.

„Когато хората разговарят с чатбот, който има човешки характеристики, те често споделят много повече лична и чувствителна информация“, обяснява пред BBC Кали Шрьодер, директор на програмата за изкуствен интелект и човешки права в Electronic Privacy Information Center (EPIC).

По думите ѝ рискът засяга дори хората, които никога не са използвали подобни платформи. В разговорите си с чатботове потребителите често обсъждат отношенията си с приятели, роднини и партньори, като понякога разкриват и поверителни подробности за тях.

Така информация за трети лица може да попадне в базите данни на AI компании без тяхното знание или съгласие.

Под повърхността на Telegram: Пазар за шпиониране, изнудване и злоупотреби

Какво ще се случи с данните на потребителите на Character.AI?

В рамките на процедурата по несъстоятелност Character.AI договори сделка с Disney на стойност 20 млн. долара за част от активите си.

Потребителските данни не са включени в споразумението. Съдебните документи обаче предвиждат възможност компанията да продаде информацията, събрана от потребителите, на други купувачи.

Това предизвика реакция от страна на американските власти.

Коалиция от главните прокурори на 40 американски щата поиска от съда допълнителни гаранции за защитата на личните данни и безопасността на децата при евентуална продажба.

Според Мелиса Джейкъби, професор по право в Университета на Северна Каролина, възможностите на институциите да се намесят остават ограничени при липсата на по-строги правила за защита на личната информация.

Допълнителен проблем е, че политиките за поверителност често съдържат клаузи, позволяващи прехвърляне на потребителски данни при продажба, сливане или фалит на компанията.

„Фалитът често е посочен като едно от тези изключения“, обяснява Шрьодер.

Така информация, която потребителите смятат за защитена, може да премине към нов собственик, без те да са напълно наясно с условията, при които това се случва.

В Европейския съюз законодателството за защита на личните данни е по-строго. Това обаче не означава, че подобно прехвърляне е напълно забранено. То трябва да отговаря на приложимите законови изисквания, включително на Общия регламент относно защитата на данните (GDPR).

AI терапевти за деца? Meta и Character.ai под прицел за подвеждащи практики

Защо случаят с Character.AI предизвиква толкова сериозни опасения?

Според BBC политиката за поверителност на Character.AI позволява събраната информация да се използва за разработване на нови функции, обучение на AI модели, усъвършенстване на алгоритмите и създаване на потребителски профили за персонализирана реклама.

Това поражда опасения, че при евентуална продажба новият собственик би могъл да използва данните за сходни цели, доколкото законодателството и приложимите условия го позволяват.

Притесненията са още по-сериозни заради проблемите, с които платформата вече се е сблъсквала.

Срещу Character.AI са заведени съдебни дела, свързани с предполагаемо опасно поведение на нейни чатботове спрямо непълнолетни потребители.

Един от случаите е смъртта на 14-годишно момче, чието семейство твърди, че продължителните му разговори с AI персонаж са допринесли за самоубийството му.

В друго дело се твърди, че чатбот е насърчил тийнейджър да прояви насилие срещу родителите си, след като те ограничили времето му пред екрана.

Компанията съобщава, че е постигнала споразумения по тези съдебни дела и продължава да подобрява мерките за безопасност.

В позиция пред BBC неин говорител посочва, че през последната година Character.AI е предприела значителни стъпки за защита на тийнейджърите и ще продължи да насърчава въвеждането на подобни стандарти в индустрията.

Компанията обаче не е отговорила на конкретните въпроси на медията относно поверителността на данните на непълнолетните потребители.

Цената на удобството: Колко лични данни струва един AI асистент?

Риск, който може да засегне цялата AI индустрия

Експертите предупреждават, че случаят с Character.AI може да не остане изолиран, особено ако финансовите проблеми в сектора се задълбочат.

Според Шрьодер огромните количества информация, съхранявани от AI компаниите, вероятно ще се превърнат в особено ценен актив при евентуална несъстоятелност.

Личните разговори, потребителските предпочитания и чувствителните данни могат да представляват значителен търговски интерес дори когато компанията, която ги е събрала, вече не е финансово жизнеспособна.

Основният риск е хората да загубят контрол върху информацията си, без да знаят кой я притежава и за какво я използва.

Служителите на фалирали стартъпи са особено заплашени от кражба на лични данни

Как потребителите могат да защитят личната си информация?

Експертите, цитирани от BBC, препоръчват хората да изтриват личните си данни от услуги, които вече не използват.

Character.AI е публикувала инструкции за изтриване на потребителски профили във връзка с процедурата по несъстоятелност.

Начините за премахване на информацията зависят от конкретната платформа и приложимото законодателство. При някои услуги това може да стане директно от настройките за поверителност, а при други е необходимо потребителят да изпрати изрично искане до компанията.

Важно е да се прави разлика между изтриването на профил и окончателното премахване на всички свързани с него данни. Част от информацията може да бъде запазена, ако за това съществува законово основание.

Особено внимателни трябва да бъдат хората, които са споделяли подробности за личните си отношения, здравословното си състояние или финансите си.

Случаят с Character.AI показва, че поверителността на разговорите с изкуствен интелект не зависи единствено от технологичната сигурност на платформите. Значение имат и финансовата стабилност на компаниите, които съхраняват информацията, както и правилата, определящи какво се случва с нея, ако те прекратят дейността си.