В публикуван в сряда документ бившият главен изпълнителен директор на Google Ерик Шмидт, главният изпълнителен директор на Scale AI Александър Уанг и директорът на Центъра за безопасност на изкуствения интелект Дан Хендрикс са категорични: САЩ не трябва да се стремят към разработване на AI системи със „свръхчовешки“ интелект, известни още като AGI, в стила на проекта „Манхатън“.

В документа, озаглавен „Стратегия за свръхинтелигентност“, се твърди, че агресивният стремеж на САЩ да контролират изключително свръхинтелигентните AI системи може да предизвика ожесточени ответни мерки от страна на Китай. Te потенциално могат да дойдат под формата на кибератака, която да дестабилизира международните отношения.

„Проект „Манхатън“ за AGI предполага, че съперниците ще се примирят с трайния дисбаланс, вместо да се опитат да го предотвратят“, пишат съавторите, цитирани от TechCrunch. „Това, което започва като стремеж към свръхоръжие и глобален контрол, рискува да предизвика враждебни контрамерки и ескалация на напрежението, като по този начин подкопае самата стабилност, която стратегията има за цел да осигури“.

Резултат от съавторство на три изключително влиятелни фигури в американската индустрия за изкуствен интелект, документът се появява само няколко месеца, след като комисия на Конгреса на САЩ предложи да се финансира разработката на AGI в стил „проект Манхатън“. В случая се визира американската програма за атомна бомба през 40-те години на миналия век. Министърът на енергетиката на САЩ Крис Райт наскоро заяви, че САЩ са в „началото на нов проект „Манхатън“ за AI, докато стоеше пред суперкомпютърна площадка заедно със съоснователя на OpenAI Грег Брокман.

Документът „Стратегия за суперинтелигентност“ оспорва идеята, поддържана от няколко американски политически и индустриални лидери през последните месеци, че подкрепяна от правителството програма за създаване на AGI е най-добрият начин САЩ да се конкурира с Китай. Според Шмидт, Уанг и Хендрикс това ще доведе до „гарантирано взаимно унищожение“. По същия начин, по който световните сили не се стремят към монопол върху ядрените оръжия - които биха могли да предизвикат превантивен удар от страна на противника – твърдят Шмидт и неговите съавтори, САЩ трябва да бъдат предпазливи в надпреварата за доминация при изключително мощните системи за AI.

Терминът описва момент на технологичен пробив, когато AI надхвърля човешкия контрол и започва бързо и необратимо да трансформира обществото

От Азимов до AGI: Наближава ли катастрофалната за човечеството "сингулярност"?

Въпреки че сравняването на AI системите с ядрени оръжия може да звучи крайно, световните лидери вече смятат технологията за водещо военно предимство. Пентагонът вече твърди, че AI помага за ускоряване на военната верига на убийства.

Шмидт, Уанг и Хендрикс предлагат САЩ да изместят фокуса си от „спечелването на надпреварата за свръхинтелигентност“ към разработването на методи, които да възпират други държави да създават свръхинтелигентен AI. Съавторите твърдят, че Вашингтон трябва да „разшири арсенала си от кибератаки, за да деактивира заплашителни AI проекти“, контролирани от други държави, както и да ограничи достъпа на противниците си до усъвършенствани чипове за AI и модели с отворен код.

Съавторите на документа акцентират, че в света се наблюдава дихотомия по отношение на AI. Има „обречени“, които вярват, че катастрофалните последици от развитието на AI са сигурни и се застъпват за забавяне на напредъка. От другата страна са „щраусите“, които смятат, че държавите трябва да ускорят развитието на AI без предпазни огради и по същество просто се надяват, че всичко ще се получи по най-добрия начин. Документът предлага трети начин: премерен подход към развитието на AGI, който дава приоритет на защитните стратегии.

Това предложение е особено забележително за Шмидт, който преди е говорил много за необходимостта САЩ да се конкурират агресивно с Китай в разработването на усъвършенствани AI системи. Само преди няколко месеца той публикува статия, в която казва, че DeepSeek бележи повратна точка в американската надпревара с Китай.

Администрацията на Тръмп изглежда твърдо решена да продължи напред в развитието на американския AI. Въпреки това, както отбелязват съавторите, решенията на Америка относно AGI не съществуват във вакуум. Докато светът наблюдава как Америка се стреми да разшири границите на технологията, Шмидт и неговите съавтори предполагат, че може би е по-разумно да се възприеме отбранителен подход.