Бърнаут и спринт с времето: Тъмната страна на златната треска за AI
Голяма част от задачите се възлагат, за да са доволни инвеститорите, а не за да решат проблеми на крайните потребители, казват инженери по изкуствен интелект
В края на миналата година инженер по изкуствен интелект в Amazon приключва работната си седмица и се готви да прекара време с приятели, които са му на гости. Тогава получава съобщение в Slack. Трябва да изпълни проект до 6 ч. сутринта в понеделник.
Уикендът минава скоростно, а той се отказва от приятелската компания. Работи ден и нощ, за да завърши задачата. Но всичко е напразно. В крайна сметка, проектът е "обезценен", казва инженерът пред CNBC.
Според него това е често срещан резултат. По думите му специалистите по изкуствен интелект обикновено правят спринтове за изграждане на нови функции, които внезапно биват отлагани в полза на забързано пренасочване към друг проект за изкуствен интелект.
Инженерът, пожелал анонимност, казва, че е трябвало да напише хиляди редове код за нови функции на AI в среда с нулево тестване за грешки. Тъй като кодът може да се счупи, ако необходимите тестове се отложат, инженерът от Amazon си спомня за периоди, в които членовете на екипа се обаждат един на друг посред нощ, за да поправят аспекти на софтуера на функцията за изкуствен интелект.
Работещите с изкуствен интелект в други големи технологични компании, включително Google и Microsoft също споделят пред CNBC за натиска, на който са подложени, за да въвеждат инструменти с главоломна скорост поради вътрешния страх от изоставане от конкуренцията в технология, която според основателя на Nvidia Дженсън Хуанг, преживява своя "iPhone момент".
Технологичните инженери говорят пред CNBC най-вече с условието да не бъдат назовавани, тъй като не са били упълномощени за изявления пред медиите. Споделеният от тях опит илюстрира по-скоро широка тенденция в индустрията, отколкото подхода на една компания към изкуствен интелект.
Те разказват за ускорени срокове, преследване на съобщенията за AI на конкурентите и цялостна липса на загриженост от страна на ръководителите им за реалните ефекти – теми, които изглеждат общи за най-големите технологични компании – от Apple и Amazon до Google.
Инженерите и експерти с други функции в тази област заявяват, че все по-голяма част от работата им е съсредоточена върху това да удовлетворят инвеститорите и да не изостанат от конкуренцията, а не върху решаване на реални проблеми за крайните потребители.
Някои са прехвърлени към екипите по изкуствен интелект, за да подпомагат бързото внедряване на продукти, без да имат достатъчно време да се обучат, дори ако са нови в технологията. Общото чувство, което описват, е прегаряне от огромния натиск в работата и дългите часове труд. Много от тях казват, че директорите им не обръщат внимание на опасенията за въздействието на изкуствения интелект върху климата и на други потенциални вреди - всичко това в името на скоростта. Затова някои експерти вече си търсят друга работа или се преместват от отделите за AI поради непоносимото темпо.
Това е тъмната страна на златната треска за генеративен изкуствен интелект. Технологичните компании се надпреварват да създават чатботове, агенти и генератори на изображения, и харчат милиарди долари за обучение на собствените си големи езикови модели, за да гарантират своята значимост на пазара, който според прогнозите ще достигне 1 трилион долара в рамките на десетилетие.
Технологичните мегакомпании не се притесняват да признаят на инвеститорите и служителите си колко много изкуственият интелект влияе върху вземането на решения.
Главният финансов директор на Microsoft Ейми Худ в разговор за приходите по-рано тази година заяви, че софтуерната компания "пренасочва потенциала си към работата, която вършим с AI, без да добавяме материален брой хора към работната сила" и заяви, че Microsoft ще продължи да дава приоритет на инвестициите в AI като "нещото, което ще оформи следващото десетилетие".
Главният изпълнителен директор на Meta Марк Зукърбърг посвети голяма част от встъпителните си думи по време на разговора за приходите на компанията миналата седмица на продуктите и услугите с изкуствен интелект и на напредъка в големия езиков модел, наречен Llama 3.
"Това ме кара да вярвам, че в следващите години трябва да инвестираме значително повече, за да изградим още по-усъвършенствани модели и най-мащабните услуги за AI в света", каза Зукърбърг.
В Amazon главният изпълнителен директор Анди Джаси заяви пред инвеститорите, че "възможността за генеративен изкуствен интелект" е почти безпрецедентна и че е необходимо увеличаване на капиталовите разходи, за да се възползваме от нея.
"Не знам дали някой от нас е виждал подобна възможност в технологиите от дълго време насам, със сигурност от времето на облака, а може би и от времето на интернет", заяви Джаси.
Скоростта над всичко
На първия етаж, където се осъществяват инвестициите, нещата винаги могат да се объркат.
Инженерът от Amazon, загубил уикенда си за проект, който е бил провален, казва, че висшестоящите сякаш правят нещата само за да "отметнат квадратчето" и че скоростта, а не качеството, е приоритет, докато се опитват да пресъздадат продукти, излизащи от Microsoft или OpenAI.
В изявление за CNBC говорител на Amazon заяви, че компанията е "фокусирана върху изграждането и внедряването на полезни, надеждни и сигурни генеративни иновации в областта на изкуствения интелект, които преоткриват и подобряват преживяванията на клиентите" и че Amazon подкрепя служителите си, за да "предоставят тези иновации". "Неточно и подвеждащо е да се използва басня от служител, за да се характеризира опитът на всички в Amazon, работещи в областта на изкуствения интелект", допълни той.
Началото на бума на генеративния изкуствен интелект започна с дебюта на ChatGPT на OpenAI в края на 2022 г. Оттогава Microsoft, Alphabet, Meta, Amazon и други изкупуват процесорите на Nvidia, които са в основата на повечето големи модели на AI.
Докато компании като Alphabet и Amazon продължават да намаляват общия си брой служители, те агресивно наемат експерти по изкуствен интелект и влагат ресурси в изграждането на модели и разработването на функции за потребителите и бизнеса.
Ерик Гу, бивш служител на Apple, работил около 4 години по инициативи за изкуствен интелект, включително за слушалките Vision Pro, заяви, че към края на кариерата си в компанията се е почувствал като "затворен в кутия".
"Apple е много продуктово ориентирана компания, така че има този силен натиск да бъдеш продуктивен, да започнеш да доставяш и да допринасяш с функции", казва Гу и допълва, че макар да е бил заобиколен от "тези брилянтни хора", не е имало време наистина да се научи от тях.
"Всичко се свежда до темпото, с което трябва да изпращаш и изпълняваш", твърди Гу, който напуска Apple, за да се присъедини към стартъпа за изкуствен интелект Imbue, където според него може да работи по също толкова амбициозни проекти, но с по-умерено темпо.
Apple отказа коментар по темата.
Инженер по изкуствен интелект в Microsoft заяви, че компанията участва в "надпревара за изкуствен интелект".
Според него, когато става въпрос за етични норми и предпазни мерки, Microsoft е намалила разходите в полза на бързината, което е довело до прибързано внедряване, без да е достатъчно загрижена за това, което може да последва. Инженерът признава, че тъй като всички големи технологични компании имат достъп до едни и същи данни, в областта на изкуствения интелект няма реална основа.
Microsoft не пожела коментар по темата.
Мори Колман, независим софтуерен инженер и създател на дигитално съдържание, който е работил по вайръл проекти, събрали над 200 000 потребители, заяви, че в епохата на бърз напредък в областта на AI "е трудно да разбереш къде си струва да инвестираш времето си".
"И това много благоприятства прегарянето, в смисъл, че е трудно да вярваш в нещо. Мисля, че най-важното за мен е, че вече не е готино или забавно."
В Google член на екипа по изкуствен интелект заяви, че прегарянето е резултат от конкурентния натиск, по-кратките срокове и липсата на ресурси, по-специално бюджет и брой служители.
Въпреки че много водещи технологични компании заявиха, че пренасочват ресурси към изкуствен интелект, необходимият брой служители, особено в забързаните срокове, не винаги се реализира. Такъв със сигурност е случаят в Google, казва служителят.
Има и график по конференции. Екипите по изкуствен интелект трябва да се подготвят за събитието за разработчици Google I/O през май 2023 г., последвано от Cloud Next през август и след това за друга конференция Cloud Next през април 2024 г. Това е значително по-кратък интервал между събитията, отколкото обикновено и създава криза за екипа, който е "зависим от сроковете на конференциите" за доставка на функции, казва инженер от Google.
Google не коментира тази история.
Настроенията в областта на изкуствения интелект не се ограничават само до най-големите компании.
Изследовател на AI в правителствена агенция допълва, че прегаря в стремежа си да бъде в крак с времето. Въпреки че държавните власти се движат по-бавно от компаниите, натискът "се разпространява навсякъде", тъй като всички искат да се включат в генеративния AI, допълва той.
Това се случва и в стартъпите.
Има компании, които се финансират от "наистина големи играчи за рисков капитал, които очакват възвръщаемост от 10 пъти", обяснява Айоделе Одубела, учен в областта на данните и съветник по политиката за изкуствен интелект.
"Те се опитват да коват желязото, докато е горещо", допълва ученият.
Голяма купчина глупости
Независимо от компанията, инженерите в сферата на изкуствения интелект твърдят, че голяма част от работата им включва задачи с изкуствен интелект заради самия него, а не за решаване на бизнес проблем или за пряко обслужване на клиенти.
"В много случаи от вас се иска да предоставите решение на проблем, който не съществува, с инструмент, който не искате да използвате", казва независимият софтуерен инженер Колман пред CNBC.
Инженерът по изкуствен интелект на Microsoft допълва, че много от задачите са свързани с "опити за създаване на шум около изкуствения интелект" без практическа употреба.
Той припомня случай, когато софтуерен инженер от неговия екип измисля алгоритъм за решаване на конкретен проблем, който не включва генеративен AI. Това решение щеше е изтласкано в полза на такова, което използва голям езиков модел, дори по-малко ефективно, по-скъпо и по-бавно. Той описва иронията на това да използваш "по-лошо решение" само защото включва AI.
Софтуерен инженер в голяма интернет компания казва, че новият екип, в който работи, посветен на напредъка на изкуствения интелект, се занимава с изследвания на големи езикови модели, "защото е актуално в момента".
Инженерът е работил в областта на машинното обучение в продължение на години и описа голяма част от работата в областта на генеративния AI като "изключително много пушек и шумотевица". На всеки две седмици се случва някакъв голям обрат, но в крайна сметка имам усещането, че всички създават едно и също нещо, допълва той.
Често му се налага да подготвя демонстрации на продукти с изкуствен интелект за борда на директорите на компанията в триседмичен срок, въпреки че те са "голяма купчина глупости".
Постоянно се опитва да успокои инвеститорите и да се бори за повече пари. Дава конкретен пример за изграждане на уеб приложение, което трябва да се покаже на инвеститорите, въпреки че не е свързано с реалната работа на екипа. След презентацията "никога повече не го докоснахме", признава той.
Продуктов мениджър във финтех стартъп твърди, че един от проектите му е включвал ребрандиране на алгоритмите на компанията към изкуствен интелект. Той също така е работил по инструмент за ChatGPT за клиенти. Ръководителите на компанията така и не казали на екипа защо е необходима тя, а служителят се чувствал "извън релси". Компанията започвала с решение, включващо AI, без изобщо да е дефинирала проблема.
Инженер по изкуствен интелект в стартъп за наблюдение на търговията на дребно, заяви пред CNBC, че е единственият в компания от 40 души и че се занимава с всяка отговорност, свързана с изкуствения интелект, което е непосилна задача.
Допълва, че инвеститорите имат неточни възгледи за изкуствения интелект, като често го молят да изгради определени неща, които са "невъзможни за изпълнение". Надява се скоро да напусне работата си и да публикува самостоятелни изследвания.
Рисков бизнес
Инженерът по изкуствен интелект в Amazon допълва, че всички от настоящия му екип са въвлечени в работата по продукт, който изостава от графика, и че много от тях са "хвърлени в него" без съответния опит и обучение.
Той също така заяви, че точността на AI и тестването са останали на заден план, за да се даде приоритет на скоростта на пускане, въпреки "мотивационните речи" на мениджърите как тяхната работа ще "революционизира индустрията".
Експертите подчертават и етичните рискове, свързани с неадекватното обучение на работниците с AI, както и с прибързването на проектите, за да не изостанат от конкуренцията.
Такъв пример е създателят на изображения Google Gemini, който се появи на пазара през февруари. В един от случаите потребител поискал от Gemini да му покаже германски войник през 1943 г., а инструментът изобразил расово разнородни войници, облечени в германски военни униформи, според снимки, прегледани от CNBC.
Фактите доказват, че в момент, когато в технологията обмислянето е по-важно от всякога, някои от водещите компании изглежда правят обратното в стремежа си да спечелят една ожесточена надпревара.
Основната вреда е, че няма време за критично мислене, предупреждават експертите.