Китай планира да ограничи влиянието на чатботовете с изкуствен интелект върху човешките емоции по начини, които могат да доведат до самоубийство или самонараняване.

Предложените правила от Администрацията за киберпространството са насочени към това, което тя нарича „човекоподобни интерактивни услуги с изкуствен интелект“, съобщава CNBC, която се е запознала с китайския документ.

След като бъдат финализирани мерките ще се прилагат за продукти или услуги с изкуствен интелект, предлагани на обществеността в Китай, които симулират човешката личност и ангажират емоционално потребителите чрез текст, изображения, аудио или видео.

Периодът за обществено обсъждане приключва на 25 януари.

Инструментът маркира отметката за проверка от Cloudflare, предназначена да спира именно автоматизирани програми като него

„Човек съм, честна дума“: ChatGPT безпроблемно се справя с проверка за ботове

Планираните правила ще бъдат първият опит в света за регулиране на изкуствения интелект с човешки или антропоморфни характеристики, заявява Уинстън Ма от Юридическия факултет на Нюйоркския университет.

В сравнение с китайските регулации от 2023 г., Ма заявява, че тази версия „подчертава скок от безопасността на съдържанието към емоционалната безопасност“.

Проектът предлага:

• Чатботовете с изкуствен интелект не могат да генерират съдържание, което насърчава самоубийството или самонараняването, нито да се ангажират с вербално насилие или емоционална манипулация, които увреждат психичното здраве на потребителите.

• Ако даден потребител конкретно предложи самоубийство, технологичните доставчици трябва да възложат разговора на човек и незабавно да се свържат с настойника на потребителя или с определено лице, което отговаря за него.

• Чатботовете с изкуствен интелект не трябва да генерират съдържание, свързано с хазарт, нецензурно или насилствено съдържание.

• Непълнолетните трябва да имат съгласието на настойник, за да използват AI за емоционално общуване, с ограничения във времето на използване.

• Платформите трябва да могат да определят дали даден потребител е непълнолетен, дори ако той не разкрива възрастта си, и в случай на съмнение да прилагат настройки за непълнолетни, като позволяват обжалване.

Допълнителните разпоредби ще изискват от технологичните доставчици да напомнят на потребителите след два часа непрекъснато взаимодействие с AI и да налагат задължителни оценки на сигурността за чатботове с над 1 милион регистрирани потребители или над 100 000 активни потребители месечно.

Акциите на производителя на чипове MetaX Integrated Circuits поскъпнаха с близо 700% при дебюта си на борсата в Шанхай миналата седмица, а Moore Threads скочи с над 400% още в първия си търговски ден по-рано този месец

Огромен ръст на свързаните с AI първични публични предлагания в Китай. Партито обаче е недостъпно за чужденци

Предложението идва малко след като два водещи китайски стартъпа за AI чатботове, Z.ai и Minimax, подадоха заявки за първоначално публично предлагане в Хонконг.

Minimax е най-известен в международен план с приложението си Talkie AI, което позволява на потребителите да чатят с виртуални герои. Заедно с китайската версия, Xingye, то генерира една трета от приходите на компанията през първите три тримесечия на годината, със средно над 20 милиона активни потребители месечно през този период.

Z.ai, известна също като Zhipu, подаде заявка под името Knowledge Atlas Technology. Въпреки че компанията не разкрива броя на активните потребители на месечна база, тя отбелязва, че „осигурява функционалност“ на около 80 милиона устройства, включително смартфони, персонални компютри и интелигентни автомобили.

Нито една от двете компании не е отговорила на запитването на CNBC за коментар как предложените правила биха могли да повлияят на плановете им за IPO.

Чрез различни техники за водене на разговор изследователи убеждават чатботове да изпълнят „забранени“ заявки.

Психологически трикове могат да накарат изкуствения интелект да наруши правилата

Влиянието на изкуствения интелект върху човешкото поведение е подложено на все по-голямо внимание в последно време.

Сам Алтман, главен изпълнителен директор на OpenAI, разработчика на ChatGPT, заяви през септември, че един от най-трудните проблеми за компанията е как нейният чатбот реагира на разговори, свързани със самоубийство. Месец по-рано семейство в САЩ заведе дело срещу OpenAI, след като техният тийнейджърски син се самоуби.

Отразявайки нарастващата спешност, през уикенда OpenAI обяви, че наема „ръководител по готовност“, който да оценява рисковете от изкуствения интелект, от въздействие върху психичното здраве до киберсигурност.

"Той винаги ще ти каже това, което искаш да чуеш", споделят китайските потребителки за виртуалния партньор

Перфектният Дан: ChatGPT има версия на мъж, по когото китайките са луди

Много хора се обръщат към изкуствения интелект и за личните си взаимоотношения. Този месец например, жена в Япония се „омъжи“ за своя AI годеник.

Две платформи, фокусирани върху взаимодействието с виртуални герои, Character.ai и Polybuzz.ai, се нареждат сред 15-те най-популярни чатботове и инструменти с изкуствен интелект, според класацията на SimilarWeb за ноември, допълва CNBC.