3 подхода, гарантиращи устойчивото използване на AI от компаниите
Изкуственият интелект е изключително енергоемък и често въглеродния отпечатък на работата с него надхвърля ползите
Миналата година, когато много ИТ директори се подготвяха за първия кръг на отчитане на емисиите от Обхват 3 - индиректни емисии, генерирани извън конкретната компанията от други източници в рамките на нейната верига за доставки, генният изкуствен интелект си проправи път в почти всеки офис. Понякога той влизаше през входната врата, но в повечето случаи се внедряваше тихомълком, тъй като служителите експериментираха с него, за да пишат документи и имейли, без непременно да признават, че го правят.
В много организации случаите на използване спряха дотук, но някои ИТ отдели вече насърчават използването на AI за неща като кодиране например. Други пък търсят от доставчиците си на софтуер ъпгрейди, които включват компоненти на генеративния AI. А има и такива като шведската финтех компания Klarna, която е интегрирала генния AI не само в редица вътрешни проекти, но и в продуктите, които продава - и е разработила управление на AI, което включва насоки за това как трябва да се използва в различни проекти.
Откакто ChatGPT беше пуснат в експлоатация през ноември 2022 г., Klarna сериозно разчита на AI, а общото усещане в компанията е, че технологията може да помогне на почти всички в организацията да станат по-ефективни, независимо от нивото на уменията или ролята им.
„В момента имаме около сто инициативи както в производствена фаза, така и в процес на разработка в компанията, в които можем да използваме генния AI“, казва Мартин Елвин, старши инженерен директор в Klarna, пред CIO. „И това го правят не само инженерите, но и всички - от финансовите и правните служби до маркетинга и навсякъде другаде.“
Преди няколко седмици Klarna представи асистент с изкуствен интелект, който отговаря на потребителски въпроси с малко или никаква човешка помощ. Софтуерът помага на потребителите да намерят нещата, които искат да купят, от най-подходящия търговец, както и при плащанията и следпродажбената поддръжка. Според Даниел Грийвс, ръководител на комуникациите в Klarna, AI от ново поколение веднага е бил успешен.
„В рамките на около четири седмици след стартирането си асистентът с изкуствен интелект е поел две трети от нашите заявки за чат обслужване на клиенти и върши работата, еквивалентна на около 700 души“, казва той.
Но тези и други приложения на AI, колкото и полезни да звучат, предизвикват и някои въпросителни.
„На пръв поглед и във вида, в който съществува днес, AI и устойчивостта ви водят в противоположни посоки“, казва Срини Кушик, президент по AI, технологии и устойчивост в Rackspace Technology. „Технологията консумира много енергия, независимо дали става дума за обучение на големи езикови модели или за изводи. И това е само началото. Консумацията на енергия тепърва ще нараства експоненциално.“
Въпреки това Кушик и много други технологични експерти твърдят, че ползите от AI далеч надхвърлят постоянно нарастващия му въглероден отпечатък, което може да не е така за други енергоемки приложения, като например криптовалутите. AI обещава да помогне на изследователите да открият по-ефективни източници на енергия, като например ядрения синтез, да оптимизират използването на настоящите енергийни източници чрез подобрено разпределение на енергията и да измерват по-точно последиците от емисиите на CO2 чрез анализ на климатичните модели.
„AI ще бъде от полза за човечеството по много начини“, казва Кушик. „А от гледна точка на моето собствено предприятие, ако една от ползите от технологията е, че ми спестява изпращането на някого със самолет от Ню Йорк до Лондон, аз съм компенсирал потреблението“.
Независимо дали AI изпълнява обещанията си в дългосрочен план, ИТ директорите, от които се изисква да отчитат пълното си въздействие на въглеродни емисии, сега трябва да включат технологията в своите отчети по Обхват 3 - а това бързо се усложнява. Например, ако използвате изводи от модел, който е бил обучен от някой друг, трябва да докладвате своя дял от въздействието на CO2. Доставчикът може да е в състояние да ви каже общите разходи за обучение, но никой не знае как да разпредели тези разходи между всички потребители през целия живот на модела.
„Нищо от това все още не е ясно, защото отчитането на Обхват 3 е нещо ново, както и генният изкуствен интелект“, казва Никлас Сундберг, SVP в швейцарската глобална транспортна и логистична компания Kuehne+Nagel. Сундберг разглежда отчитането по Обхват 3 в книгата си Sustainable IT playbook for technology leaders.
Въпреки неяснотите ИТ лидерите продължават напред с изкуствения интелект. Покрай това някои от тях откриват три неща, които могат да направят, за да намалят въздействието на технологията върху собствените си инициативи за устойчивост. Те ги споделят пред специализираното издание CIO.
1. Доверете се на голям доставчик за оптимизиране на използването
„Ние вече сме напреднали потребители на AI и едно от нещата, които препоръчваме, е да използвате технологията, особено за изводи, чрез доставчици, които имат споделени среди за работа по заявка“, казва Елвин.
Това е логично, защото колкото повече хора използват дадена публична облачна услуга, толкова по-високи са процентите на използване. Подобряването на използването на ресурсите при стартирането на енергоемки приложения за AI може да доведе до промяна в общия въглероден отпечатък на вашата организация.
ИТ директорите могат да направят още една крачка напред, като зададат на доставчиците списък с въпроси, като се започне от това как обучават своите модели и как се правят изводите.
„Ако купувате само услуги за извеждане на изводи, попитайте ги как могат да отчетат всички въздействия нагоре по веригата“, казва Тейт Кантрел, главен технически директор на Verne, компания със седалище във Великобритания, която предоставя решения за центрове за данни за предприятия. „Извеждането на изводите отнема част от секундата. Но единствената причина, поради която тези тегла в невронната мрежа са такива, каквито са, е огромното количество обучение - потенциално един или два месеца обучение при нещо като 100-400 мегавата - за да се получи тази инфраструктура такава, каквато е. И така, колко от това трябва да ви се таксува?“
Кантрел призовава ИТ директорите също така да попитат доставчиците за тяхната собствена отчетност:
„Извършват ли те открито отчитане на пълното въздействие нагоре по веригата, което техните услуги имат от гледна точка на устойчивостта? Колко дълъг е процесът на обучение, за колко време е валиден и на колко клиенти е оказало влияние това тегло?“
Според Сундберг идеалното решение би било моделът с изкуствен интелект сам да информира за своя въглероден отпечатък.
„Трябва да можете да попитате Copilot или ChatGPT какъв е въглеродният отпечатък на последното ви запитване“, казва той. „Доколкото ми е известно, в момента нито един от инструментите няма да ви даде отговор на този въпрос.“
2. Използвайте най-подходящия модел за решаване на всяка част от даден проблем
Когато Klarna създадва своя асистент с изкуствен интелект, компанията не използва само един модел, който да прави всичко. Вместо това преминава през процес, в който оценява всяка стъпка от услугата, за да види какво наистина е необходимо за нея.
„Стремяхме се да бъдем ресурсно ефективни“, казва Елвин. „Уверихме се, че използваме възможно най-малкия модел, който предоставя необходимите възможности за изпълнение на дадена стъпка.“
Klarna обобщава тази идея, като издава насоки, за да се увери, че екипите използват този подход, когато изграждат други решения. Една стъпка може да изисква цялостен модел като GPT-4, докато друга част от услугата работи добре и с по-лек инструмент като GPT-35 Turbo. А по-малките модели изискват по-малко електроенергия не само по време на фазата на обучение, но и за изводите.
В крайна сметка предприятията ще трябва да измерват потреблението на енергия - и това може да е на база заявка, където по-малките модели се справят много по-добре.
„Не е необходимо GPT-4 за решаване на искове в застрахователната сфера“, казва Кушик. „Трябва ви нещо, което е по-малко и обучено на по-специфични за домейна данни, което е по-точно при отговорите на въпроси във вашата сфера, отколкото огромния GPT-4.“
Въпреки че големите компании работят с машинно обучение от доста време насам, техните модели не са толкова сложни, колкото по-големите модели с отворен код, казва Сундберг и добавя: „Но те се справят по-добре с решаването на много специфични корпоративни проблеми като ценообразуване и прогнозиране на отлива на клиенти.“
3. Приоритизирайте случаите на употреба
ИТ директорът може да погледне балансирано на случаите на употреба и да ги приоритизира.
„Повечето хора не се нуждаят от Copilot“, казва Кушик. „Ползите от писането на по-добри имейли не оправдават цената на абонамента и емисиите на CO2. От друга страна, нашият правен отдел се възползва от Copilot по начин, който компенсира разходите, така че го разпространихме при тях.“
Приоритизирането на случаите на употреба означава, че ИТ лидерите ще трябва да кажат на някои потребители, че AI не е подходящо решение за техния проблем. Най-добрият начин да избегнете противоречия в това отношение е да установите ясни насоки още в началото. Започнете с намирането на начини за измерване на въглеродния отпечатък на инструментите за AI и след това за всеки случай на употреба сравнете този отпечатък с потенциалните ползи.
„За ИТ директорите е важно да разполагат с показатели за емисиите на CO2 за дадено приложение“, казва Сундберг. „Това им позволява да претеглят разходите и ползите. Ако не можете сами да разберете какъв е въглеродният отпечатък, опитайте се да попитате доставчика на софтуера.“
Но това, което прави задачата по-трудна, е, че доставчиците невинаги казват това, което знаят.
„Въпреки че генният изкуствен интелект може да отключи много възможности за устойчивост, има и тъмна страна, която не се обсъжда - със сигурност не и от доставчиците“, казва Сундберг. „Те са твърде фокусирани върху надпреварата за постигане на статут на най-добър доставчик в своето пространство.“