Председателят и главен изпълнителен директор на Microsoft Сатя Надела призовава усъвършенстваните системи за изкуствен интелект да бъдат изграждани с механизми за ограничаване, независими средства за контрол и „аварийна спирачка“, която позволява на упълномощени лица да прекъснат временно или да изключат даден модел по време на изпълнение на задача, съобщава CNBC.

„Трябва да подсигурим моделите със стабилен системeн дизайн, човешки надзор и надеждни оперативни процедури, както и да установим индустриални стандарти там, където съществуващите са недостатъчни“, пише той в публикация в X.

„Разглеждането на най-модерните модели като вътрешни рискове е един от начините за изграждане на такава система“, смята Надела.

След като наследява Стив Балмър през 2014 г., той дава могъщество на компанията в облачните технологии. Но 4 години след началото на AI бума, софтуерният гигант остава без пробив на ниво модели или приложения

Сатя Надела трансформира Microsoft веднъж. Ще успее ли за втори път в AI ерата

Според него системите за изкуствен интелект трябва да бъдат проектирани въз основа на „принципите на наблюдаемостта“. Те включват разнообразие на моделите; разбираем за човека отпечатък от действията им; непрекъснато тестване; независими механизми за контрол; ограничаване на риска; разкриване на инциденти.

„Най-надеждната система за суперинтелигентност няма да бъде тази с модела, на който се доверяваме най-много. Тя ще е тази, която позволява да се доверяваме най-малко на модела“, допълва Надела.

Коментарът му идва на фона на предупреждения от водещи технологични мениджъри и изследователи – включително съоснователя на Microsoft Бил Гейтс, изпълнителните директори на Anthropic Дарио Амодей, на OpenAI Сам Алтман и на SpaceX Илон Мъск – относно неадекватни протоколи за безопасност на AI и твърдения, че технологията се развива прекалено бързо.

Миналия месец един от изследователите в областта на изкуствения интелект напусна Anthropic и обвини компанията, както и нейния основен конкурент OpenAI, че „залагат на карта нашите животи“. По-късно същия ден ръководител от Anthropic, специализиран безопасността на изкуствения интелект, заяви, че вероятността той да „убие всички хора“ в следващото десетилетие е по-голяма от 10%.

Враждуващите технологични лидери се обединиха около предупрежденията, че хората могат да изгубят контрол над технологията

Съперниците Алтман и Мъск подкрепиха призива на Дарио Амодей за забавяне на AI

От друга страна, президентът на САЩ Доналд Тръмп многократно отхвърля рисковете за човечеството от AI, като подчертава, че индустрията трябва да изпреварва конкуренцията на Китай.

Наскоро държавният глава представи нова структура, наречена AI Force (Сила за изкуствен интелект), ръководена от директора на Националното разузнаване Джей Клейтън, с цел да подпомогне развитието на индустрията по разработване на технологията и да премахне злонамерените участници, допълва CNBC.