Преди около две години предприемачът в сферата на образованието Борис Бът стига до момент на осъзнаване – подобно на безброй други компании в Китай, неговият бизнес трябва да възприеме изкуствения интелект, преди технологията да го направи ненужен.

Клиентите му – заможни родители, които искат да изпратят децата си да учат в чужбина – започват да идват в офиса му с информация и мнения, получени не от конкурентни консултанти, а от чатботове, разказва The Guardian. 

Това го кара да разработи собствен инструмент с изкуствен интелект за образователни консултации. Логиката му е проста: „Ако не можеш да ги победиш, присъедини се към тях“.

Развитието на AI в Китай отстъпва по темпове и качество единствено на САЩ, докато двете суперсили водят все по-интензивна технологична надпревара. Анализаторите като цяло са единодушни, че най-модерните американски модели все още имат осезаема преднина пред китайските.

През последните седмици обаче настроенията в Силициевата долина рязко се променят. Един след друг представители на индустрията предупреждават за потенциално катастрофални последици при „загуба на контрол“ върху най-мощните AI системи.

Нова информация разкрива вътрешни опасения около използването на милиони журналистически материали за разработването на AI системи

„Екзистенциална заплаха“ за медиите: Какво разкриват документи от Microsoft и OpenAI

Главният изпълнителен директор на Anthropic Дарио Амодей призова за глобално забавяне на развитието на най-напредналите модели – идея, която според него би изисквала сътрудничество с Китай.

Пекин обаче едва ли ще приеме подобно ограничаване при условията на американските компании, смята Лиан Дже Су от технологичната изследователска група Omdia. Китайското правителство разглежда изкуствения интелект като ключов елемент от националния суверенитет и не желае да рискува постигнатия напредък в съкращаването на дистанцията спрямо САЩ.

„Китай възприема тези призиви като опит да се запази американското предимство“, обяснява Су.

Самият Амодей поставя геополитическото съперничество в центъра на аргумента си, като определя за ключово демократичните държави да запазят възможно най-голяма преднина в AI спрямо автокрациите. Той подкрепя и продължаването на американския контрол върху износа за Китай на най-модерните чипове и оборудването за тяхното производство.

Китайското външно министерство отговори, че „всяването на страх, конфронтацията и ожесточената конкуренция само ще нарушат процеса на глобално управление на изкуствения интелект“.

Това обаче не означава, че Пекин отхвърля опасенията за рисковете от технологията. Китай публикува третата версия на своята рамка за управление на безопасността на AI, която очертава основните заплахи и възможните мерки срещу тях.

Сред новите акценти са рисковете от автономните AI агенти, киберзаплахите, свързани с най-мощните модели, и т.нар. рекурсивно самоусъвършенстване – засега хипотетичен сценарий, при който една система става достатъчно напреднала, за да подобрява сама способностите си.

„В много отношения има повече допирни точки между казаното от Амодей и позицията на китайското правителство, отколкото хората вероятно предполагат“, смята Габриел Вагнер от базираната в Пекин консултантска компания за AI безопасност Concordia.

Компанията разкри шест нови случая, при които системи са заобикаляли ограничения, пренаписвали инструкции или измисляли данни, а новата рамка трябва да ускори разследването и публичното оповестяване на подобни инциденти

OpenAI въвежда нови правила за разкриване на опасно поведение на AI моделите

Подходът контрастира с този на американския президент Доналд Тръмп, който определи опасенията, че изкуственият интелект може да унищожи човечеството, като „измама“.

Financial Times съобщи в събота, че държавният глава планира да назначи нов специален координатор за изкуствения интелект и да създаде „AI Force“, като едновременно с това обещава Вашингтон да не възпрепятства развитието на сектора. Президентът определя технологията като следващата индустриална революция и прогнозира, че тя потенциално може да достигне дял от 25% от американския БВП. Основният му аргумент е, че САЩ трябва да запазят преднината си пред Китай.

Позицията му се разминава с нарастващите предупреждения от самата технологична индустрия. Амодей настоява, че темпът, с който се увеличават възможностите на AI моделите, трябва да бъде забавен, а според FT тази позиция получава подкрепа и от Сам Алтман от OpenAI и Илон Мъск.

Обществените опасения в САЩ също нарастват, особено около огромното потребление на електроенергия от центровете за данни. Темата вече навлиза и в кампанията за междинните избори, като някои републиканци, които преди подкрепят разширяването на подобна инфраструктура, променят позициите си под натиска на избирателите.

През юли републиканският кандидат за губернатор на Флорида Байрън Доналдс обещава да защити местните общности от центровете за данни. Месец по-късно губернаторът на Тексас Грег Абът въвежда временен мораториум върху изграждането им, а кандидатът за Сената от Мичиган Майк Роджърс подкрепя едногодишна забрана.

Камарата на представителите, контролирана от републиканците, междувременно приема с голямо мнозинство законопроект, според който центровете за данни трябва сами да покриват предизвиканото от тях увеличение на енергийните разходи, вместо тежестта да се прехвърля върху потребителите. Проучване на Associated Press показва, че 63% от американците са „изключително“ или „много“ обезпокоени от влиянието на тази инфраструктура върху цените на електроенергията.

В Китай държавата също следи внимателно рисковете, но същевременно активно насърчава внедряването на AI в икономиката. Управляващата Комунистическа партия от години се стреми да гарантира, че технологията се развива в граници, определени от властите.

Централизираният контрол върху критичната инфраструктура и голяма част от икономическата дейност поставя Китай в по-добра позиция от САЩ за реакция при евентуална сериозна криза, свързана с AI, посочва Су. От друга страна, китайските компании извършват по-малко доброволни проверки и оценки на системите си в сравнение с американските, отбелязва Лея Уанг от Carnegie Endowment for International Peace.

Според нея нито Пекин, нито Вашингтон изглеждат напълно подготвени за сценарий, при който бъдеща AI система излезе извън човешки контрол. Китайският регулаторен модел обаче се адаптира бързо към новите рискове.

Пионери на технологията предупреждават за риск от катастрофални последици, докато други учени оспорват прогнозите за човешко изчезване и настояват фокусът да остане върху опасностите, които AI създава още днес

„Може да изгубим контрол“ срещу „Апокалипсисът отвлича вниманието“: Гласът на учените в спора за AI

Страната поддържа регистър на алгоритмите още от 2022 г., а новите предупреждения за автономните агенти показват промяна във фокуса – от контрол върху това какво AI „казва“ към надзор върху това какво може да „прави“. Пекин въведе и национални правила, насочени към ограничаване на емоционалната зависимост от AI компаньони.

Успоредно с ограниченията Китай ускорява внедряването на технологията в реалната икономика, като тази цел вече е заложена и в последния петгодишен план на страната. Местните власти предлагат финансиране и преференциални наеми на технологични компании, а предприятията в огромния производствен сектор са насърчавани да адаптират процесите си към ерата на AI.

Самият Бът наскоро е поканен да представи компанията си Hampshire Education пред властите в малък град на около три часа от Шанхай, който се стреми да изгради репутация на технологичен център.

„Безопасността и възможността за контрол със сигурност са сериозни въпроси и се обсъждат активно“, коментира пред The Guardian представител на Black Lake Technologies – платформа за индустриални AI агенти, която твърди, че е работила с 40 000 фабрики по света. „Но в производството тези опасения са много по-конкретни и практически. Компаниите се интересуват най-вече дали AI е надежден.“

Всекидневието в Китай вече е силно дигитализирано, а традиционно по-слабият обществен дебат около защитата на личните данни улеснява масовото навлизане на новите технологии. Дигиталната здравна услуга A-fu например, която предлага AI версии на известни лекари, обучени върху реални клинични изследвания, наскоро достига 150 млн. потребители.

„Повечето хора възприемат AI като вече полезен инструмент от ежедневието, а не като абстрактна заплаха, затова практичният подход е да се научат да живеят с него“, обобщава Ни Тао, основател и редактор на технологичния сайт Yangtzeer.

По думите му съществуват реални опасения за работните места и дезинформацията, но те вървят редом със силното убеждение, че Китай трябва да овладее изкуствения интелект, вместо да забавя развитието му.