Според академични документи и анализатори водещи китайски изследователски институции, свързани с Народната освободителна армия (НОАК), са използвали публично достъпния модел Llama на Meta за разработване на инструмент за изкуствен интелект с потенциални военни приложения.

В документ от юни, цитиран от Reuters, шестима китайски изследователи от три институции, включително две под ръководството на водещия изследователски орган на НОАК - Академията за военни науки (АМС), подробно описват как са използвали ранна версия на Llama на Meta като база за това, което наричат „ChatBIT“.

Изследователите са използвали по-ранна версия на големия езиков модел (LLM) Llama 2 13B, включвайки свои собствени параметри, за да конструират инструмент за изкуствен интелект с военна насоченост. Той събира и обработва разузнавателна информация и да предлага точни и надеждни данни за вземане на оперативни решения.

ChatBIT е прецизиран и „оптимизиран за задачи за диалог и отговаряне на въпроси във военната област“, се казва в документа. Установено е, че той превъзхожда някои други модели на изкуствен интелект, които са с приблизително 90% от възможностите на мощния ChatGPT-4 на OpenAI. Изследователите не уточняват как са определили производителността и дали моделът е бил въведен в експлоатация.

„За първи път има съществени доказателства, че военни експерти на НОАК в Китай систематично проучват и се опитват да използват мощността на LLM с отворен код, особено тези на Meta, за военни цели“, коментира Съни Чунг, асоцииран сътрудник във фондация Jamestown, който е специализиран в областта на нововъзникващите технологии и технологиите с двойна употреба в Китай.

САЩ, Китай, Тайван, чипове – едно уравнение с много неизвестни

Meta е възприела отвореното публикуване на много от своите модели на AI, включително Llama. Тя налага ограничения за използването им, включително изискване услугите с повече от 700 милиона потребители да търсят лиценз от компанията.

Условията също така забраняват използването на моделите за „военни цели, ядрени индустрии или приложения, шпионаж“ и други дейности, подлежащи на контрол върху износа в областта на отбраната на САЩ. Разработване на оръжия и съдържание, предназначено за „подбуждане и насърчаване на насилие“, също са забранени. Тъй като обаче моделите на Meta са публични, компанията има ограничени възможности за прилагане на тези разпоредби.

В отговор на въпроси на Reuters Meta цитира своята политика за приемлива употреба, заявявайки, че е предприела мерки за предотвратяване на злоупотреби.

„Всяко използване на нашите модели от страна на Народната освободителна армия е неразрешено и противоречи на нашата политика за приемливо използване“, казва Моли Монтгомъри, директор на Meta по обществената политика.

Според компанията Съединените щати трябва да приемат отворените иновации.

„В глобалната конкуренция в областта на изкуствения интелект предполагаемата роля на една-единствена и остаряла версия на американски модел с отворен код е неуместна, когато знаем, че Китай вече инвестира повече от трилион долара, за да надмине САЩ в областта на изкуствения интелект“, се казва в изявление на говорителя на компанията.

Китайска Nvidia? Въпрос на справяне с много предизвикателства

Сред китайските изследователи са Гън Гуотун и Ли Вейвей от Изследователския център за военна научна информация и Националния иновационен институт за отбранителни технологии, както и изследователи от Пекинския технологичен институт и Университета Минзу.

„В бъдеще, чрез технологично усъвършенстване, ChatBIT ще се прилага не само за анализ на разузнаването, но и ще се изследва стратегическото планиране, симулационното обучение и вземането на командни решения“, се казва в документа, видян от Reuters.

Според него моделът включва едва 100 000 записа на военни данни, което е сравнително малък брой в сравнение с други.

„Това е капка в морето в сравнение с повечето от тези модели, които са обучени с трилиони данни, така че това наистина ме кара да се запитам какво всъщност постигат тук по отношение на различните възможности“, казва Жоел Пино, вицепрезидент на AI Research в Meta и професор по компютърни науки в университета Макгил в Канада.

Изследването идва на фона на разгорещен дебат в средите на националната сигурност и технологиите в САЩ за това дали компании като Meta трябва да правят моделите си публично достъпни. През октомври 2023 г. президентът на САЩ Джо Байдън подписа изпълнителна заповед, с която се опитва да управлява развитието на изкуствения интелект, като отбеляза, че въпреки че може да има съществени ползи за иновациите, съществуват и „съществени рискове за сигурността, като например премахване на защитните мерки в рамките на модела“.

САЩ затягат допълнително правилата за износ на AI чипове към Китай

Тази седмица Вашингтон заяви, че финализира правилата за ограничаване на американските инвестиции в изкуствен интелект и други технологични сектори в Китай, които биха могли да застрашат националната сигурност.

Може ли Китай да бъде ограничен от „буркана с бисквитки“?

Някои наблюдатели твърдят, че напредъкът на Китай в разработването на местен изкуствен интелект, включително създаването на десетки изследователски лаборатории, вече е намалило технологичното изостване от САЩ.

В отделен научен труд, разгледан от Reuters, двама изследователи от Корпорацията за авиационна промишленост на Китай - която Съединените щати определиха като компания, свързана с НОАК - описват използването на Llama 2 за „обучение на стратегии за намеса във въздушната електронна война“.

Използването на разработения на Запад изкуствен интелект от страна на Пекин се разпростира и върху вътрешната сигурност. В документ от юни се описва как Llama се използва за „разузнавателна полицейска дейност“, за да обработва големи количества данни и да подобрява вземането на решения.

Държавният вестник PLA Daily публикува през април коментар за това как AI може да помогне за „ускоряване на изследванията и разработването на оръжия и оборудване“, да подпомогне разработването на симулации на бойни действия и да подобри ефективността на военното обучение.

„Можете ли да държите Китай настрана от буркана с бисквити? Не, не виждам как“, посочва Уилям Ханас, водещ анализатор в Центъра за сигурност и нововъзникващи технологии (CSET) към университета в Джорджтаун.

В изследване на CSET от 2023 г. са открити 370 китайски институции, чиито изследователи са публикували статии, свързани с общия изкуствен интелект, което спомага за осъществяването на националната стратегия на Китай да оглави света в тази област до 2030 г.

„Най-добрите китайски и американски учени в областта на изкуствения интелект си сътрудничат твърде много, за да бъдат изключени от разработките“, добавя Ханас.