AI на прицел: В САЩ анализират вредите от бума на технологията
От създаването си през 1914 г. Федералната търговска комисия на САЩ (FTC) е призвана да се бори с измамите, заблудите и съмнителните оферти, с които се сблъскват американските потребители ежедневно. Институцията налага глоби на брандове, които използват фалшиви ревюта в онлайн магазини, улесняват прекратяването на абонаменти и контролира таргетираните реклами в интеренет, посочва Engadget и добавя:
„В понеделник Майкъл Атълсън, прокурор от отдела за рекламни практики на FTC, изложи както мотивите на комисията за това как нововъзникващите генеративни системи за изкуствен интелект като ChatGPT и Dall-E 2 могат да бъдат използвани за „нелоялни“ практики, така и какво ще последва за компаниите, за които е установено нарушение“.
"Съгласно Закона за FTC дадена практика е нелоялна, ако причинява повече вреди, отколкото ползи", казва Атълсън. "Тя е нелоялна, ако причинява или има вероятност да причини значителна вреда на потребителите, която не може да бъде избегната от тях в разумни граници и не е компенсирана от някакви надвишаващи ползи за потребителите или за конкуренцията."
Той отбелязва също така, че новото поколение чатботове като Bing, Bard и ChatGPT могат да бъдат използвани, за да повлияят на "убежденията, емоциите и поведението на потребителите".
„Вече сме ги виждали да се използват като преговарящи в мрежата за доставки на Walmart и като разговорни терапевти - и двете професии са специално насочени към оказване на влияние върху хората. Когато се комбинират с общите ефекти на процеса на автоматизация, при които потребителите по-лесно приемат думите на предполагаемо безпристрастна система с изкуствен интелект, те лесно могат да бъдат накарани да си мислят, че разговарят с нещо, което ги разбира и е на тяхна страна", твърди Атълсън.
Той признава, че въпросите, свързани с технологията на генеративния AI, далеч надхвърлят непосредствената компетентност на FTC, но повтаря, че комисията няма да толерира безскрупулни компании да я използват, за да се възползват от потребителите. "Компаниите, които обмислят иновативни употреби на генеративния AI, като например персонализиране на реклами за конкретни хора или групи - предупреждава юристът на FTC - трябва да знаят, че елементите на дизайна, които подвеждат хората да направят вреден избор, са често срещани в делата ни.
Предписанията на FTC засягат и поставянето на реклами в рамките на приложениия с генеративен изкуствен интелект по начина, по който Google вмъква такива в резултатите в търсачката си, посочва още Engadget.
"Хората трябва да знаят дали отговорът на платформата с изкуствен интелект ги насочва към конкретен уебсайт, доставчик на услуги или продукт заради търговски взаимоотношения", казва Атълсън. "И със сигурност трябва да знаят дали общуват с истински човек или с машина."
Накрая той отправя и сериозно предупреждение към технологичната индустрия:
"Като се имат предвид тези многобройни опасения относно използването на новите инструменти с изкуствен интелект, може би не е най-подходящият момент за компаниите, които ги създават или внедряват, да отстраняват или уволняват персонала си, посветен на етиката и отговорността. Ако FTC се обади и искате да ни убедите, че сте оценили адекватно рисковете и сте намалили вредите, тези съкращения може да не са добър подход".
Това е урок, който Twitter вече научи по трудния начин, акцентира Engadget.
Белият дом също е мнителен
И FTC далеч не е единственото звено от американската администрация, което е обезпокоено от навлизането на изкуствения интелект. Белият дом също има своите съмнение и в резултат на това се готви да проучи как компаниите използват технологията за наблюдение и управление на служителите си. Според Bloomberg президентската администрация е публикувала в блога си призив към американските работници да споделят как автоматизираните инструменти се използват на работните им места.
"Макар че в някои случаи тези технологии могат да бъдат от полза както за работниците, така и за работодателите, те могат да създадат и сериозни рискове", се казва в публикацията. "Постоянното проследяване на резултатите може да накара служителите да изпълняват задълженията си твърде бързо, което създава рискове за тяхната безопасност и психично здраве."
ChatGPT За обучението на GPT-3 Microsoft може да е консумирал невероятните 700 000 литра вода
Позовавайки се на медийни публикации, Белият дом добавя, че технологията се използва и „за възпиране на работниците да организират работните си места и за затвърждаване на дискриминацията в заплащането и дисциплината“.
От Белия дом отправят призив за участие на различни заинтересовани страни, включително изследователи, застъпнически групи и дори работодатели. По-специално, администрацията на Байдън заявява, че иска да знае какви регулации и действия за прилагане на законодателството трябва да има предвид федералното правителство, за да се справи с "икономическите, свързаните с безопасността, физическите, психическите и емоционалните последици" от употребата на AI технологии за наблюдение на работното място.