Meta представя Muse като нов тип персонален AI асистент във физическо устройство – малък „аксесоар“, който може да се закачи на ключодържател, чанта или просто да се носи със себе си. Той има собствен екран с анимиран персонаж и работи като AI агент, с когото потребителят може да разговаря и на когото да възлага реални задачи – от отговаряне на имейли и организиране на пътувания до пазаруване. Зад симпатичния дизайн стои по-амбициозната идея на Meta: да превърне изкуствения интелект в постоянен дигитален спътник, на когото потребителят постепенно да поверява все повече задачи от ежедневието си.

Новото устройство беше представено от Марк Зъкърбърг след критиките към смарт очилата на компанията и веднага предизвика сравнения с Тамагочи и куклите Labubu. „Събрали сме много технологии в това малко устройство“, заяви Зъкърбърг при представянето му в Сан Франциско.

The Guardian разглежда Muse от по-различен ъгъл: не толкова през възможностите на технологията, колкото през причината тя да бъде опакована в толкова симпатичен и безобиден дизайн.

„По същество изглежда като бебе“, казва Кейти Сийборн от University of Cambridge, която изследва ролята на „сладостта“ в технологиите. Според нея именно това е част от причината устройството да изглежда толкова безобидно.

Проф. Джошуа Пол Дейл от Chuo University в Токио, автор на книгата Irresistible: How Cuteness Wired Our Brains and Conquered the World, вижда в дизайна съзнателен опит Muse Charm да бъде възприеман не само като устройство, а като спътник.

„Това, което Meta очевидно се опитва да направи, е да превърне Muse в компаньон. Компанията използва много опростен, малък 2-инчов екран, за да насърчи хората да антропоморфизират фигурата върху него и да се отнасят към нея така, сякаш е човек, въпреки че знаят, че не е“, казва Дейл пред The Guardian.

Сийборн стига една стъпка по-далеч и определя „сладостта“ на подобни продукти като стратегическа.

„Има естествена връзка между сладостта и измамата. Аз я наричам ‘charming and disarming’, защото едно от нещата, които сладостта прави с нас несъзнателно, е да ни кара да сваляме гарда си“, обяснява тя.

Това има значение за компания като Meta, която влиза в новата категория продукти на фона на дългогодишни спорове около поверителността, използването на лични данни и наблюдението.

Сийборн посочва и културната страна на явлението. В Япония използването на сладки маскоти от компании, медии и дори държавни институции е обичайно. „Първото нещо, което забелязваш, когато отидеш в Япония, е, че абсолютно всичко има талисман. Държавните институции, медиите, компаниите – всички имат сладък персонаж“, казва тя.

В западната култура роботите и автономните технологии по-често са представяни като потенциално опасни, дефектни или подозрителни. Изследванията на Сийборн показват, че тези различия могат да влияят върху начина, по който хората реагират на продукти като Muse.

„Хората усещаха, че нещо не е наред, но не можеха да обяснят точно какво“, казва Сийборн за британски фокус групи, в които „сладък“ дизайн е използван в подвеждащ контекст.

Новата стратегия на Зъкърбърг: Ще се докаже ли подходът на Meta за AI устройствата?

Когато симпатичният AI получи реален достъп

Докато The Guardian разглежда психологията зад дизайна, Никол Нгуен, колумнист на The Wall Street Journal, проверява как изглежда Muse в ежедневна употреба. Тя използва агента в продължение на седмица, свързва го със своя имейл, календар и други услуги и започва да му възлага реални административни задачи.

„Колкото повече информация му поверяваш, толкова по-полезен става“, пише Нгуен. След като свързва входящата си поща и календара, Muse намира неплатени сметки и предлага рецепта според предстояща доставка на хранителни продукти.

Muse не е просто чатбот, който отговаря на въпроси. Той може да навигира в сайтове, да използва приложения и да работи с различни файлове. Всеки потребител получава собствена защитена виртуална машина – облачен компютър със собствена файлова система и браузър, чрез който агентът изпълнява задачите си.

В един от тестовете Нгуен кара Muse да намери дъждобран за детско столче за велосипед. Агентът не успява да открие конкретния европейски модел в САЩ, но намира алтернатива в Калифорния и зарежда страницата за плащане.

Когато идва моментът за покупката, Muse предлага свързване с Link by Stripe, която съхранява платежни методи и предоставя еднократен виртуален номер на карта. Нгуен предпочита сама да поеме контрола върху браузъра и да въведе данните си.

Новият AI залог на Meta се побира на ключодържател

Друг тест показва и ограниченията на системата.

Нгуен пита дали фитнесът ѝ предлага бонус за препоръка на нов член. Muse намира оферта за 50% отстъпка, но тя се оказва за напълно различен фитнес на другия край на страната.

„Дори пухкавите AI системи могат да грешат“, отбелязва Нгуен. Случаят е сравнително безобиден, но показва проблем, който става по-сериозен, когато AI агентът започне не само да предоставя информация, а и да действа въз основа на нея.

При друга задача резултатът е значително по-добър. Нгуен дава на Muse четири дати и часа и предпочитани детегледачи. След като сама се вписва в платформата, агентът прави резервациите, докато тя приготвя обяд, а след това предлага да добави събитията в Google Calendar.

„Чувах в главата си писъците на специалистите по киберсигурност, но исках да видя какво може Muse“, пише Нгуен.

След това тя дава на Muse достъп само за четене до личния си Gmail акаунт. Агентът открива забравена сметка за зъболекар и използва информация от пощата ѝ, включително дата на посещението и дата на раждане, за да попълни дълъг формуляр.

Muse събира и информация за пет години международни пътувания от календара и имейлите ѝ, необходима за кандидатстване по програмата Global Entry.

„Беше впечатляващо, но и малко зловещо“, пише Нгуен за момента, в който вижда как агентът използва данни от входящата ѝ поща, за да попълни формуляра.

Може ли Muse да се превърне в пробива на Meta, какъвто ChatGPT беше за OpenAI?

Полезността расте заедно с достъпа

Именно тук практическият тест стига до по-сериозния въпрос.

Информацията, която потребителят споделя с Muse, технически може да бъде споделяна с Meta. Компанията твърди, че тя няма да се използва за показване на реклами, но може да бъде използвана за обучение на AI модели, освен ако потребителят не се откаже от това през настройките. Meta казва още, че служителите ѝ няма да получават достъп до акаунти, освен при конкретни обстоятелства, например законово искане или проблем, докладван от самия потребител.

Компанията планира по-късно през годината да предложи и т.нар. конфиденциална виртуална машина – криптирана среда, която трябва да не позволява на Meta да има достъп до разговорите. За специалистите по киберсигурност обаче проблемът не се изчерпва с това какво може да вижда самата компания.

„Въпросът за всеки потребител е какво се случва, ако устройството му бъде компрометирано или самата услуга бъде пробита“, казва Тревър Хилигос, главен директор по разузнавателната дейност в компанията за киберсигурност SpyCloud.

Обикновено имейлът, социалните мрежи, онлайн пазаруването и банковите услуги са разделени зад различни профили и пароли. Когато една услуга получи достъп до няколко от тях едновременно, тя може да се превърне в особено ценна цел при пробив, предупреждава Хилигос.

Рискът става още по-голям, когато AI агентът има право да извършва действия от името на потребителя.

Кейти Мусурис, главен изпълнителен директор на Luta Security, препоръчва потребителят сам да поема контрол върху браузъра при задачи, свързани с плащания, пароли, настройки на акаунти или изпращане на съобщения от негово име.

Съществува и риск от внедряване на скрити инструкции (prompt injection).

Злонамерен сайт или имейл може да съдържа скрити команди, които да накарат AI агента да пренебрегне първоначалната задача и вместо това да изпрати чувствителна информация към нападател. Meta твърди, че е въвела защити, които трябва да насочват Muse да игнорира подобни инструкции и да ограничава достъпа си до чувствителни данни. Компанията обаче признава, че агентът „понякога ще допуска грешки“.

След седмицата с Muse Нгуен решава засега да го нулира. „Ще бъда предпазлива засега“, пише тя, като добавя, че може да преосмисли решението си, когато Meta въведе обещаната конфиденциална виртуална машина.