CNBC: OpenAI разпуска екипа, фокусиран върху дългосрочните рискове от изкуствения интелект
Новината идва дни след като и двамата лидери на екипа - съоснователят на OpenAI Иля Суцкевер и Ян Лайкe - обявиха напускането си от подкрепения от Microsoft стартъп
Година след като обяви създаването на своя екип, фокусиран върху дългосрочните рискове от изкуствения интелект, OpenAI го разпуска. Това съобщава CNBC, позовавайки се на източник, пожелал анонимност. Новината за разпускането на екипа беше съобщена по-рано и от Wired.
Някои от членовете на звеното са преназначени в други подразделения на компанията, посочва източникът на CNBC.
Новината идва дни след като и двамата лидери на екипа - съоснователят на OpenAI Иля Суцкевер и Ян Лайкe - обявиха напускането си от подкрепения от Microsoft стартъп. Лайке заяви в петък, че „културата и процесите на безопасност на OpenAI са отстъпили на заден план пред лъскавите продукти“.
Т.нар. Superalignment екип на OpenAI, обявен миналата година, се фокусира върху „научни и технически пробиви за управление и контрол на AI системи, много по-умни от нас“. По това време OpenAI каза, че ще отдели 20% от изчислителната си мощност за инициативата в рамките на четири години.
OpenAI не е предоставила коментар на CNBC. Вместо това компанията е насочила медията към скорошната публикация на съоснователя и главен изпълнителен директор Сам Алтман в X, в която той споделя, че е тъжен от напускането на Лайке и че компанията има още работа за вършене.
Иля Суцкевер и Ян Лайкe обявиха напускането си от стартъпа в социалната мрежа X във вторник, но в петък Лайке сподели повече подробности за решението си:
„Присъединих се към OpenAI, защото смятах, че ще е най-доброто място в света за извършване на тези изследвания. Въпреки това не съм съгласен с ръководството на OpenAI относно основните приоритети на компанията от доста време, докато най-накрая достигнахме преломна точка.”
Според Лайке компанията трябва да бъде фокусирана много повече върху сигурността, мониторинга, безопасността и въздействието върху обществото. От публикацията му става ясно, че екипът му не е имал достатъчно ресурси, за да прави ключови изследвания. „През последните няколко месеца екипът ми плаваше срещу вятъра“, пише той и изтъква, че безопасността трябва да е на първо място в развитието на т.нар. AGI.
„Изграждането на по-интелигентни от човека машини е по своята същност опасно начинание“, казва още Лайке. „OpenAI поема огромна отговорност от името на цялото човечество. Но през последните години културата на безопасност и процесите останаха на заден план пред лъскавите продукти.“
I joined because I thought OpenAI would be the best place in the world to do this research.
— Jan Leike (@janleike) May 17, 2024
However, I have been disagreeing with OpenAI leadership about the company's core priorities for quite some time, until we finally reached a breaking point.
Напускането на Иля Суцкевер и Ян Лайкe идва месеци след като OpenAI премина през лидерска криза. През ноември бордът на OpenAI отстрани Сам Алтман, като каза в изявление, че той не е бил „последователно откровен в комуникацията си с борда“.
The Wall Street Journal и други медии съобщиха след това, че Суцкевер е насочвал вниманието към това да се гарантира, че изкуственият интелект няма да навреди на хората, докато други лидери в компанията, включително Алтман, вместо това са били по-нетърпеливи да продължат напред с развитието на новата технология.
Свалянето на Алтман предизвика оставки или заплахи за оставки, включително отворено писмо, подписано от почти всички служители на OpenAI, и недоволство от страна на инвеститори, включително Microsoft
В рамките на една седмица Алтман се върна в компанията, а членовете на борда Хелън Тонер, Таша Макколи, гласували за отстраняването му, напуснаха. Иля Суцкевер остана в екипа, но вече не в качеството си на член на борда. Адам Д’Анджело, който гласува за отстраняването на Алтман, остана в борда.
Във вторник Сам Алтман сподели мислите си относно напускането на Иля Суцкевер, казвайки, че това е много тъжно за него. „Иля е един от най-великите умове на нашето поколение, пътеводна светлина в нашата област и скъп приятел”, написа Алтман в X. “Неговият блясък и визия са добре известни; неговата топлина и състрадание са по-малко известни, но не по-малко важни“, добави Алтман. Той посочи, че директорът по изследванията Якуб Пачоцки, който е в OpenAI от 2017 г., ще замени Иля Суцкевер като главен учен.
Ilya and OpenAI are going to part ways. This is very sad to me; Ilya is easily one of the greatest minds of our generation, a guiding light of our field, and a dear friend. His brilliance and vision are well known; his warmth and compassion are less well known but no less…
— Sam Altman (@sama) May 14, 2024
Малко преди тези поредни сътресения OpenAI пусна нов AI модел и десктоп версия на ChatGPT с актуализиран потребителски интерфейс в поредното си усилие да разшири използването на своя популярен чатбот.
Технологичният директор Мира Мурати заяви в понеделник, че новият модел GPT-4o е „много по-бърз“ с подобрени възможности за обработка на текст, видео и аудио.
OpenAI обяви, че планира да позволи на потребителите да водят видео чат с ChatGPT. „Наистина правим огромна стъпка напред, когато става въпрос за лекота на използване” каза Мурати.