Meta ускорява замяната на човешката модерация с генеративен изкуствен интелект като част от мащабна инициатива за намаляване на разходите. Според Financial Times, целта е да се компенсират значителните инвестиции на главния изпълнителен директор Марк Зъкърбърг в развитието на AI.

Технологичният гигант, оценен на 1,4 трилиона долара, ускорява преминаването към големи езикови модели (LLM) за модериране на съдържание и реклами. Източници на FT посочват, че тази промяна може да спести на компанията милиарди долари годишно.

През тази година Meta вече е заменила около 50% от заявките за човешка проверка с изкуствен интелект. Компанията планира до края на годината този дял да нарасне значително, като при определени типове съдържание AI да поеме над 90% от модерацията.

Досега Meta използваше комбинация от автоматизирани системи и човешки модератори, включително външни изпълнители, за оценка на публикации и реклами. Потребителските жалби обикновено се разглеждаха от хора.

Компанията официално заявява пред Financial Times, че преходът към AI модерация се мотивира от стремеж към по-ефективно използване на новите технологии, а не от желание за икономии. Според тестове от март насам, езиковите модели правят средно с 13% по-малко грешки от хората при налагане на санкции за нарушаващо правилата съдържание, като същевременно откриват 10% повече реални нарушения.

Meta се опитва да изгради следващото поколение AI агенти, но вътре в компанията служители говорят за тежка атмосфера

„Това буквално е гулаг“: Служители на Meta описват срива в AI екипа на Зъкърбърг

Докато Зъкърбърг инвестира милиарди в инфраструктура за създаване на т.нар. "персонален суперинтелект", компанията автоматизира и вътрешни процеси като писане на код.

Доскоро Meta използваше основно езиковия модел Gemini на Google за модерация и обслужване на клиенти. По данни на изданието, служителите вече са инструктирани да преминат към новия вътрешен модел на компанията – Muse Spark.

Този технологичен напредък вече води до съкращения, особено сред външните изпълнители, отбелязва FT. Очаква се Meta постепенно да прекрати бъдещите си договори с компании за модерация.

Тази промяна има и положителен ефект, като намалява психологическия стрес върху хората от прегледа на съдържание с насилие, за което социалната мрежа често е била критикувана в миналото.

Въпреки оптимизма на ръководството, вътрешни източници предупреждават, че внедряването е прекалено бързо и технологията все още допуска системни грешки. Източник от Meta съобщава пред Financial Times, че AI модераторите продължават да премахват или да налагат "shadow-ban" (скрито ограничаване на видимостта в потока от новини) на напълно безобидни материали.

Устройствата масово се използват за тайно заснемане на непознати на обществени места. Въпреки предупрежденията на експертите за нарушаване на личното пространство, технологичните гиганти готвят нови модели

Смарт очилата на Meta са хит на пазара въпреки сериозните проблеми с поверителността

Темата с рекламите е особено чувствителна, тъй като Meta е под натиск заради големия обем измамни промоции на своите платформи. Материалът припомня и доклад на Reuters от миналата година, според който вътрешни прогнози на Meta сочат, че през 2024 г. компанията ще генерира около 16 милиарда долара (или 10% от годишните приходи) от реклами на измами и забранени стоки. В момента компанията е обект на съдебни дела заради измамни реклами. По-рано този месец хакери използваха AI чатбот за обслужване на клиенти, за да превземат десетки хиляди акаунти в Instagram.