Да, компаниите ни подслушват и ще продължат да го правят

12119
Да, компаниите ни подслушват и ще продължат да го правят

© Pixabay

Големите технологични компании не обичат да говорят на тази тема.

Когато потребителите разберат какво се случва, обикновено изпитват гняв и разочарование.

Да, ако говорите с някой от виртуалните асистенти, като например Alexa на Amazon, човек, нает от компаниите, прослушва записите с вашите думи.

В нещо като кризисен PR компаниите обясняват, че правят това, за да подобрят възможностите на изкуствения интелект, стоящ зад услугата.

Тези практики надигнаха притеснения относно поверителността на личния живот на потребителите, особено когато компании, като Amazon, Google и Apple, създават записи всеки път, когато говорите с гласовите асистенти Alexa, Google Assistant и Siri, но не позволяват на потреителите сами да преслушват тези записани разговори.

Компаниите посочват, че само малка част от разговорите се прослушват от служители.

Все пак Google и Apple временно спряха практиката хора да преслушват записите, докато Amazon промени настройките си, така че на потребителите да е по-лесно изобщо да избегнат тази практика, предава CNN. 

През миналата седмица Facebook също обяви, че паузира прегледите от служители на някои аудиозаписи на потребителите, като гласовите съобщения, изпратени чрез приложението Messenger.

Facebook използваше до този момент хора за тази дейност.

Не е ясно обаче доколко изобщо потребителите имат нужда от тези умни асистенти в дома си и до каква степен компаниите прикриват детайлите около развитието на този вид технология, разчитаща основно на изкуствен интелект.

Редица експерти по изкуствен интелект посочват, че има истинска необходимост разговорите с гласовите асистенти да се прослушват, за да се подобри този вид услуга – независимо дали говорим за домашно устройство или виртуален сервитьор в заведение за бързо хранене.

В същото време те смятат, че технологичните компании трябва да направят повече, за да обяснят това на потребителите и какво става с всеки запис, като разяснят всички рискове, които вървят ръка за ръка с тях.

„Ако помислите за това, защо бихте искали странник във вашия дом, който слуша частните ви разговори?”, пита Майнул Мондал, основател и изпълнителен директор на базирания в Сан Франциско стартъп Ellipsis Health, който използва изкуствен интелект за анализ на разговори с пациенти с доктори и други доставчици на здравни услуги.

Изкуственият интелект не е магия

Виртуалните асистенти разчитат на алгоритми за машинно обучение, които използват огромна база данни, от която подбират необходимите съставки. За да работят, тези асистенти трябва да се обучават, за което е небходима огромна база данни – в конкретно разглеждания случай – огромно количество записи на разговори на потребителите.

Отнема около 20 хил. часа аудио записи, за да бъде обучен даден асистент, така че да може да взаимодейства с потребителите, посочва Джейсън Марс, изпълнителен директор и съосновател на Clinc - стартъп, който разработва чат ботове за банки и други компании.

Тези асистенти могат да бъдат обучавани да вършат всякакви задачи, като съобщаване на прогнозата за времето или коя песен звучи в момента.

Поради всичко това, човешката намеса остава изключително важна, тъй като помага на системата да се подобява с времето, поради което се и прослушват разговорите с асистентите.

Джъстин Касъл, професор по лингвистични технологии в Carnegie Mellon University, посочва, че хората са изключително важни за развитието на изкуствения интелект в гласовите асистенти, тъй като в наши дни все още системите трудно разпознават прецизно човешкия говор.

Изкуственият интелект все още се справя зле с коректните отговори. Така например, ако поискате от Siri да каже някой виц и след това посочите, че не е бил особено забавен, системата ще ви отвърне „Не съм сигурна, че разбрах”.

Компаниите трябва да са по-прозрачни

Сред другите проблеми попада това, че хората персонифицират умните устройства, казва Флориан Шауб - професор в University of Michigan, който изследва казуса с поверителността, когато говорим за гласови асистенти.

В резултат на това потребителите често не осъзнават, че когато казват нещо на устройствата, те реално изпращат желанията и мислите си директно към Amazon, ако говорят с Alexa.

Да осъзнаеш, че човек може да чуе това, което сте казали на устройството, провокира усещане за нарушаване на поверителността, като кара хората да се чудят какво още знаят компаниите за личния им живот.

Потребителите в тази ситуация често директно изключват устройството, вместо да използват вградените бутони за заглушаване на записването, например.

„Мисля, че тези компании трябва да направят повече, за да осъзнаят от какво се притесняват потребителите”, казва Шауб.

Шпионираш ли ме? Ето какво отговарят Alexa, Siri и GoogleПроблемите около събирането на лични данни на гражданите не са от вчера

Компаниите, според нея, не комуникират успешно това, което правят с потребителските данни, като трябва да предоставят повече обяснения и прозрачност по темата.

Според Касъл и други експерти компаниите трябва да направят така, че потребителските данни за обучение на изкуствен интелект да са напълно анонимни.

Хората ще продължат да са част от процеса. Не е ли време за нова регулация?

Дали технологията някога ще стане толкова добра, че да не е нужен преглед от човешки оператор?

Това не е особено вероятно, поне в близко бъдеще.

Ако истинската цел на тези компании е създаването на технология, с която действително можем да разговаряме свободно, то преслушването на записите ще продължи, казва Шауб.

Така или иначе, колекционирането на потребителски данни е новият световен бизнес. Всички големи компании правят това, като официално посочват най-различни причини за необходимостта от тази практика.

Това, че изкуственият интелект може да се изпозлва за шпионаж, контрол, война и прочее дейности, различни от розовите обещания за умни асистенти, които пеят приспивни песнички, също е всеизвестен факт.

Което прави играта доста по-сериозна и мащабна от „просто искаме да имаме добър асистент”.

Всичко това поражда необходимост по-скоро от нова регулаторна среда, ограничаваща достъпа до лични данни, а не от търговски обещания, които - меко казано, не звучат особено правдоподобно. 

Подобни статии

Най-четени статии

Facebook Коментари

Добави коментар

Екипът на Profit.bg Ви благодари, че използвате кирилица за вашите коментари.
В случай, че коментарът Ви съдържа нецензурни квалификации и лични нападки или обиди на расова, сексуална, етническа или верска основа, той ще бъде изтрит от модератора на сайта.

Абонирайте се за електронния
информационен бюлетин на Profit.bg