Само няколко часа бяха необходими през уикенда, за да се появи сериозна съпротива в Силициевата долина срещу призивите на водещи AI компании развитието на технологията да бъде забавено и поставено под по-строг контрол.

В събота главният изпълнителен директор на Anthropic Дарио Амодей заяви в есе, че AI напредва твърде бързо, за да могат изследователите да продължат безопасно да развиват технологията. Той предложи независими одитори да следят работата на AI лабораториите по въпросите на безопасността, а регулаторите да им позволят да координират общи стандарти в тази област.

Макар да се разминават по въпроса как точно трябва да се действа, главният изпълнителен директор на OpenAI Сам Алтман, ръководителят на SpaceX Илон Мъск и председателят на Google DeepMind Демис Хасабис подкрепиха идеята темпото да бъде забавено.

Други влиятелни фигури в технологичния сектор обаче бързо поставиха под въпрос мотивите на Амодей и предположиха, че той преувеличава рисковете от AI, за да затрудни конкуренцията с водещите компании.

„Спрете да се преструвате, че желанието за забавяне е продиктувано единствено от алтруизъм“, написа в социалните мрежи Дейвид Сакс, технологичен съветник на Доналд Тръмп и бивш отговорник на Белия дом за AI и криптовалутите.

Спорът разкри дълбоко разделение между онези, които смятат, че правителствата трябва да контролират развитието на AI, и онези, които предупреждават, че регулациите могат да задушат конкуренцията.

В социалните мрежи започна да се разпространява сатирична страница от вестник от 1944 г., в която Робърт Опенхаймер уж призовава за шестмесечна пауза в разработването на атомната бомба, след като САЩ вече са натрупали преднина, а Германия е поканена да направи същото.

Посланието е очевидно: големите играчи първо печелят технологично предимство, а после искат всички да натиснат спирачките - включително конкурентите, които нямат особен стимул да ги последват.

Сблъсъкът между Дарио Амодей от Anthropic и Белия дом противопоставя опасенията за безопасно развитие на свободния технологичен пазар

„Професор Панда“ срещу царя на AI: Битката за бъдещето на технологиите

Опасенията около безопасността на AI привлякоха още по-голямо внимание през последните седмици, след като стана ясно, че система на OpenAI е излязла извън зададените ограничения и е проникнала в мрежите на друга компания.

Само преди няколко дни един от служителите на Амодей напусна Anthropic и започна публична кампания, с която да привлече внимание към рисковете от технологията.

Редица представители на сектора, включително някои от съветниците на администрацията на Тръмп по технологичната политика, обаче смятат тези опасения за преувеличени.

Сакс, който често критикува Амодей, постави въпроса защо AI компаниите се нуждаят от държавна намеса, за да забавят собственото си развитие, след като нищо не им пречи сами да го направят. Особено на фона на амбицията им да създадат т.нар. свръхинтелект - AI, чиито способности далеч надхвърлят човешките.

Докато американският президент поставя победата над Китай над опасенията за екзистенциалните рискове от изкуствения интелект, Брюксел вижда в предупрежденията на изследователи от Anthropic и OpenAI аргумент в полза на AI Act

„Нямам никакви притеснения“: Тръмп отхвърля страхa от AI, Европа отговаря: „Ние вече имаме закон за това“

„Най-лесният начин да не създадете свръхинтелект е просто да се съгласите да не го създавате“, написа той.

„Ако поставяте приемането на предпочитаната от вас регулаторна рамка като условие за това, ще изглежда като изнудване на обществото и политическата система.“

Главният изпълнителен директор на Microsoft Сатя Надела заяви в неделя, че компанията подкрепя предложения като използването на независими одитори и „по-широки усилия за изграждане на механизми, които да превърнат всичко това в нещо повече от приказки“.

„Трябва също да ускорим развитието на AI и да разпространим ползите от него така, че те да достигнат до възможно най-много държави, общности и компании“, написа Надела.

„Ключовото е, че това не може да бъде контролирано от шепа организации, а трябва да има широко представителство.“

Главният изпълнителен директор на Microsoft заяви, че ограниченията върху водещия AI модел на компанията „нямат никакъв смисъл“

Надела критикува Anthropic за строгия контрол върху AI модела Fable

От години сред най-силно загрижените за безопасността на AI са именно ръководители и служители на лаборатории като Anthropic, пише The New York Times.

Тяхната позиция често е, че развитието на технологията така или иначе е неизбежно и че именно те разполагат с необходимите знания, за да я изграждат по възможно най-безопасния начин. Тази теза обаче ги прави и обект на остри критики.

„Трябва ли шепа избрани AI компании от Силициевата долина, които вече доминират пазара, да определят правилата и стандартите за безопасност на технология, която ще бележи цяло поколение?“, пише в неделя Ейдън Гомес, главен изпълнителен директор на канадската AI компания Cohere.

„Тези олигополи вече искат правилата за конкуренцията да бъдат огънати в тяхна полза и да получат правото да диктуват условията на всички останали“, добавя той.

„Вълк в овча кожа. Картел, независимо как го наречем.“

В есето си Амодей предлага AI компаниите да допуснат независими външни оценители, които да работят директно в лабораториите и да проверяват продуктите им.

Критиците обаче поставиха въпроса дали Anthropic няма прекалено тесни връзки с две от организациите, споменати от Амодей - неправителствените METR и Redwood Research.

„Ако ще има регулация, тя не може да бъде поверена на хора, които те познават, и самите компании не могат да пишат правилата“, казва рисковият инвеститор Бил Гърли, който е сред най-гласовитите критици на водещите AI компании.

Враждуващите технологични лидери се обединиха около предупрежденията, че хората могат да изгубят контрол над технологията

Съперниците Алтман и Мъск подкрепиха призива на Дарио Амодей за забавяне на AI

Още преди есето на Амодей в Силициевата долина се появиха обвинения, че тревогите на AI лабораториите за безопасността обслужват собствените им бизнес интереси.

На конференция в Сан Франциско миналата седмица главният изпълнителен директор на Nvidia Дженсън Хуанг заяви, че AI лабораториите наблягат на проблемите със сигурността, защото планират да предлагат собствени продукти за киберсигурност.

„Какъв по-добър начин да създадеш търсене от това първо да създадеш проблем?“, каза Хуанг.

„Кой не би искал пазарът да изпадне в истерия около продукта му и клиентите да се наредят на опашка?“

В събота главният изпълнителен директор на Hugging Face Клеман Деланг, чиято компания беше хакната от технология на OpenAI, написа, че проблемите с безопасността на AI няма „да бъдат решени зад затворените врати на шепа водещи лаборатории“.

По-рано този месец Nvidia се съгласи да придобие Hugging Face за 12,9 млрд. долара.

Сделката цели да ускори разпространението на отворените AI модели, засилвайки контрола на технологичния гигант върху сектора

Nvidia придобива AI платформата с отворен код Hugging Face за 13 млрд. долара

Някои законодатели във Вашингтон също изглеждат съпричастни към опасенията на Амодей. Подобно на много представители на Силициевата долина обаче, те не бързат да подкрепят регулации.

„Ако разработчиците на AI искат да забавят развитието на продуктите си, са свободни да го направят“, написа в неделя републиканският сенатор от Тексас Джон Корнин.

„Едно е сигурно: конкурентите им няма да го направят, включително противниците на нашата държава.“

На пресконференция в Ирландия в неделя Доналд Тръмп заяви, че САЩ „водят пред Китай в AI“ и че иска „това да остане така“.

„Можем да поставим предпазни механизми, можем да направим това или онова, но мисля, че има много негативни сили, които повдигат тази тема“, каза още Тръмп.

„Говорят за неща, които няма да се случат. Но който спечели надпреварата за AI, печели.“