Департаментът за правителствена ефективност (DOGE) на Илон Мъск се развихри с главоломна скорост из Вашингтон. През първите 100 дни от втория мандат на президента Доналд Тръмп DOGE изигра централна роля в съкращаването на повече от 200 000 федерални работни места.

За същото време организацията приложи агресивни мерки за съкращаване на разходите (включително за чуждестранна хранителна помощ и медицински изследвания), ремонтира дългогодишните правителствени системи за киберсигурност и се насочи към премахване на федералните програми за многообразие, равенство и приобщаване.

Повечето от тези промени бяха отчасти предизвикани от инструменти за изкуствен интелект - ход, който предизвика сериозни опасения сред експертите. Критиците твърдят, че прибързаното и неизпитано използване на технологията може да доведе до неправомерни уволнения, неправилно боравене с поверителни данни и трайни щети за основните обществени услуги.

„Погрешно е да мислим, че хората, които контролират технологиите и свързаните с тях властови лостове, са наивни относно възможностите на изкуствения интелект“, казва пред Fast Company Джулия Стоянович, директор на Центъра за отговорен изкуствен интелект към Нюйоркския университет. „И тяхната цел не е да правят нещата по-добре или да направят така, че всичко да е по-ефективно. По-скоро целта им е просто да намалят размера на правителството, да намалят държавните разходи и да го направят по начин, който е дезориентиращ за всички в обществото“.

Производител №1 на електромобили отчете най-ниската си печалба от четвъртото тримесечие на 2020 г. насам

Мъск обръща гръб на DOGE след кошмарно тримесечие на Tesla

Мъск, който по-рано този месец заяви, че ще се оттегли от DOGE, за да се съсредоточи повече върху Tesla, след като производителят на електромобили публикува мрачен тримесечен отчет за приходите, е бил основният привърженик на използването на изкуствен интелект за повишаване на ефективността на правителството. На практика това означава, че чувствителни данни от Министерството на образованието например се подават към системи с AI, за да се идентифицират подходящите за премахване програми. Същото се е случило и с програмите за обезщетения в Министерството по въпросите на ветераните. Не на последно място, DOGE е използвал различни AI платформи, включително Grok на xAI, която Мъск притежава, за наблюдение на комуникациите на федералните служители за критични настроения към него или Тръмп.

Според анонимен правителствен служител, който говори пред The Washington Post през февруари, крайната цел е нещо още по-драстично: замяната на „човешката работна сила с машини“.

Критиците смятат, че подобни усилия представляват безразсъдна и опасна авантюра. Експертите предупреждават, че съкращенията в държавната администрация, ръководени от изкуствен интелект, крият риск от нарушаване на гражданските права, неправилно боравене с някои от най-чувствителните данни за персонала в страната и въвеждане на скрити пристрастия (дори и случайно) в критични решения. Както съобщава CNN, федералните агенции, с техните застаряващи системи и сложни мисии, не са пригодени за рязка автоматизация, а без задълбочено разбиране на основните данни системите с изкуствен интелект могат да се окажат грешно решение и да съкратят важни служители и услуги въз основа на неточни резултати.

През ноември беше съобщено, че стартъпът набира до 6 млрд. долара при оценка от 50 млрд. долара, за да закупи 100 000 чипове на Nvidia

Мъск готви значително увеличение на капитала на xAI?

Дейвид Еван Харис, учен от Калифорнийския университет в Бъркли, казва пред Fast Company, че има и огромна тревога по въпроса за защитата на данните и дали DOGE опазва информацията, която включва в огромни системи за изкуствен интелект, предоставяни от компании като Anthropic и xAI.

„Много е неясно какви протоколи за сигурност използва екипът на DOGE“, казва той, „и дали предприема някакви стъпки, за да се увери, че частните данни на държавните служители и гражданите на САЩ и дори поверителните данни за правителствените програми на САЩ не се превръщат в набори за обучение или не се съхраняват неправомерно от някоя от тези компании“.

Може би още по-обезпокоително е, както твърдят изследователите от Харвард Брус Шнайер и Нейтън Е. Сандърс пред The Atlantic, че замяната на федералните държавни служители с AI може да отслаби из основи демократичното управление чрез концентрация на изпълнителната власт. Според тях при по-малък брой човешки служители с независима преценка бъдещите лидери биха могли да променят правителствените агенции с едно натискане на бутон - заобикаляйки традиционните механизми за контрол и баланс, предназначени да предотвратят злоупотребите с власт.

Трябва ли индустрията да се тревожи или напротив - да се радва? Отговорите са разнопосочни

Космическа индустрия под сянката на Мъск: Добра новина или рецепта за монопол?

Все пак има признаци, че инерцията около DOGE може да се промени. Този месец Американският съюз за граждански свободи заведе дело срещу ведомството, като поиска документи за използването на AI от агенцията във федералните програми, позовавайки се на опасения за масово наблюдение и „политически мотивирана злоупотреба“. Междувременно група законодатели от Демократическата партия написаха писмо до Ръсел Вуут, директор на Службата за управление и бюджет, в което поискаха повече информация за практиките на DOGE при използването на технологията.

Въпреки мащабните обещания на Мъск, анализите показват, че въздействието на агенцията е преувеличено: Според неотдавнашни оценки, публикувани от New York Times, рекламираните от DOGE икономии на разходи всъщност може да не са толкова големи, като се има предвид, че всички свързани с агенцията уволнения, преназначавания и загубена производителност възлизат на около 135 млрд. долара. Общественото мнение също изглежда се влошава: Неотдавнашно проучване на Washington Post и ABC News-Ipsos установява, че 57% от американците не одобряват усилията на Мъск в DOGE, което е значително увеличение в сравнение с преди няколко месеца.

Тези фактори могат да принудят DOGE да си направи равносметка, но времето е малко. След като изкуственият интелект навлезе в работата на правителството, отстраняването на щетите може да се окаже дори по-трудно от предотвратяването им.

„Индустрията на изкуствения интелект е известна с това, че е готова на всичко, за да може да пусне продукти възможно най-бързо“, казва Харис. „Комбинирането на тази надпревара с желанието на DOGE да използва AI за всичко, което може да им хрумне, е наистина обезпокоително“.