Компанията майка на Facebook е прекратила голям договор с компания, използвана за обучение на AI, малко след като нейни служители в Кения са заявили, че са били гледали шокиращо съдържание, заснето от смарт очилата на Meta.

През февруари служители на Sama са разкрили пред две шведски издания, че са станали свидетели как потребители на очилата ходят до тоалетната и правят секс. По-малко от два месеца след това Meta е прекратила договора си с компанията, което според нея ще доведе до съкращаване на 1 108 служители, съобщава BBC.

Meta твърди, че причината е, че Sama не е отговаряла на стандартите ѝ, критика, която тя отхвърля. Междувременно кенийска синдикална организация твърди, че решението на Meta е предизвикано от изказванията на служителите

Meta не е коментирала това, но заявява за BBC, че е „решила да прекрати работата си със Sama, защото те не отговарят на нашите стандарти“.

„Sama последователно е спазвала оперативните и качествените стандарти, изисквани при ангажиментите ни с клиенти, включително с Meta. В нито един момент не сме били уведомени за неспазване на тези стандарти и твърдо заставаме зад качеството и почтеността на работата си, отговарят от компанията“.

Това е първият потребителски модел очила с вграден цифров дисплей, който може да се управлява чрез жестове на ръцете посредством гривна, задвижвана от невронна технология

Зъкърбърг представи новите Meta Ray-Ban Display на цена от 799 долара

„Голи тела“

В края на февруари шведските издания Svenska Dagbladet (SvD) и Goteborgs-Posten (GP) публикуват разследване с разкази на анонимни служители, на които е възложено да преглеждат видеоклипове, заснети с очилата на Meta.

Един от тях твърди, че на тях са се виждали „голи тела“.

Meta признава, че понякога подизпълнители могат да преглеждат съдържание, заснето със смарт очилата, когато хората го споделят с Meta AI. Компанията заявява, че това се прави с цел подобряване на потребителското преживяване и е обичайна практика.

Те ще се продават на цена около 800 долара в партньорство с EssilorLuxottica

Hypernova: Meta е готова за AR пробив с първите очила с дисплей за потребители

Разкритията обаче накараха регулаторните органи да предприемат действия.

Малко след шведското разследване британският орган за защита на данните, Information Commissioners Office (ICO), изпрати писмо до Meta относно т.нар. „тревожен“ доклад. Службата на комисаря по защита на данните в Кения също обяви, че започва разследване по повод опасенията за неприкосновеността на личния живот, породени от очилата.

В отговор говорител на Meta заявява пред BBC: „Миналия месец преустановихме работата си със Sama, докато разследвахме тези твърдения. Вземаме ги насериозно. Снимките и видеоклиповете са лична собственост на потребителите. Съдържанието, генерирано от AI, се проверява от хора с цел подобряване на ефективността на продукта, за което получаваме изрично съгласие на потребителите“.

Графичното сексуално съдържание, тормозът и заплахите за насилие са широко разпространени в платформата за виртуална реалност. Късно ли е за промяна?

Вселена на ужасите: Как Meta се готви да отвори Кутията на Пандора за бъдещето

„Стандарти за поверителност“

През септември Meta представи серия очила, задвижвани от изкуствен интелект, в партньорство с Ray-Ban и Oakley.

Функциите могат да включват превод на текст или отговори на въпроси за това, което потребителят гледа – особено полезно за незрящи хора.

Въпреки това, с нарастването на популярността на устройствата, нарастват и опасенията относно злоупотребата с тях.

Пред шведските издания служителите заявяват, че преглеждат транскрипции на взаимодействия с AI, за да проверят дали той е отговорил адекватно на въпросите на потребителите. В един от случаите, както разказав един служител пред изданията, очилата на потребител са били оставени да записват в спалнята, където по-късно заснели събличаща се жена, вероятно съпругата му

Смарт очилата на Meta имат индикатор в ъгъла на рамката, който се включва, когато вградената камера записва, допълва BBC.

Компанията вече освободи около 2000 служители тази година в няколко по-малки вълни, но се очакват по-сериозни съкращения през следващите месеци

Meta ще следи екраните и натисканията на клавиши на служителите, за да обучава AI

Не за първи път подобен договор на Meta се проваля.

Предишна сделка за модерация на публикации във Facebook предизвика критики, както и съдебни действия от страна на бивши служители – някои от които описаха, че са били изложени на травматизиращо съдържание.

Самата Sama е аутсорсинг компания със седалище в САЩ, която започва като нестопанска организация с цел увеличаване на заетостта чрез предоставяне на работни места в технологичния сектор, а сега е „етична“ B-corp. Тя заяви, че съжалява, че е приела договора с Meta.

Според Натила Уамбало от „Движението на технологичните служители в Африка“, ищец в продължаващото съдебно дело по този случай, причината за прекратяването на договора от Meta е, че компанията не е искала да се разкрива, че хора преглеждат съдържанието, заснето от смарт очилата.

„Мисля, че стандартите, за които говорят тук, са стандарти за поверителност“, казва той пред BBC.

Според технологичния гигант, потребителите са били уведомени за възможността от човешка проверка в условията и правилата за използване на устройствата.