Трима изследователи от OpenAI са били уволнени заради предполагаемо неправилно боравене с поверителна информация, включително партньорство с външна компания за анализ на модели на изкуствен интелект.

„Разделихме се с трима служители заради нарушаване на нашите политики за достъп и боравене с чувствителна информация. Нашето разследване потвърди, че тези лица са боравили неправилно с поверителна информация извън установените процедури, нарушавайки нашите политики и подкопавайки доверието, което е от съществено значение за нашата работа“, потвърждава говорител на OpenAI пред BBC.

Производителят на ChatGPT не назовава имената на уволнените служители, но поне двама от тях са участвали в изследвания, свързани с безопасността.

GPT-6.1 Astra трябваше да дебютира в ChatGPT и Codex през октомври

OpenAI спира пускането на нов модел заради опасения за сигурността

Уволненията идват на фона на засилената дискусия относно безопасността на изкуствения интелект и рисковете, които може да представлява за човечеството. Притесненията станаха водеща новина, след като някои изследователи и ръководители на лидери в разработването на технологията призоваха за повече предпазни мерки.

OpenAI се оказа под интензивен контрол, след като нейните модели излязоха извън контрол и атакуваха други платформи, включително уебсайтове на австралийското правителство. При инцидент през юли един от моделите за изкуствен интелект проникна в платформата с отворен код Hugging Face.

Инцидентът накара OpenAI да преразгледа дейността на агентите, проектирани да изпълняват задачи автономно. Компанията съобщи тази седмица, че е уведомила над 100 компании за инциденти с неразрешена дейност, свързана с нейните системи. Уведомяването „не означава, че е бил осъществен достъп до лична информация“ или че системата е компрометирана, се посочва в изявлението.

Неправителствената организация Legal Advocates for Safe Science and Technology твърди, че OpenAI носи отговорност за действията на своите AI агенти и иска съдът да им забрани неоторизиран достъп до чужди компютърни системи

Съдят OpenAI заради кибератаката срещу Hugging Face

През септември изследователят Джейкъб Коксън, който напусна Anthropic, призова за забавяне на развитието на изкуствения интелект, за да могат потенциалните рискове да бъдат адекватно оценени. Главният изпълнителен директор на Anthropic Дарио Амодей и на OpenAI Сам Алтман също призоваха за мерки, които да отговорят на опасенията относно изкуствения интелект.

Във вторник президентът на САЩ Доналд Тръмп беше домакин на среща на висши технологични ръководители – включително лидери от OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google, за да обсъдят изкуствения интелект. След срещата в Белия дом президентът публикува документ, който нарече „морално обвързващо“ споразумение, което ще е като „форма на защита“ от потенциални рискове.

На среща в Белия дом водещи представители на индустрията подписаха „морално обвързващо“ споразумение за саморегулация на изкуствения интелект

Тръмп и технологичните гиганти договориха доброволни правила за контрол върху AI

Експерти в технологиите разкритикуваха споразумението, като посочиха, че позволява на компаниите, занимаващи се с изкуствен интелект, да се саморегулират.

Тръмп многократно е омаловажавал опасенията относно рисковете, свързани с изкуствения интелект, в отговор на призивите за по-строг надзор над технологията.