Бившият ръководител на Агенцията за национална сигурност на САЩ, пенсионираният генерал Пол Накасоне, ще се присъедини към борда на директорите на OpenAI, съобщи компанията за изкуствен интелект. Той ще участва и в отдела "Сигурност и безопасност".

Високопоставеното попълнение към отбора вероятно има за цел да задоволи критиците, които смятат, че OpenAI се движи по-бързо, отколкото е разумно за нейните клиенти, а може би и за човечеството, пускайки модели и услуги, без да оценява адекватно рисковете от тях.

Накасоне има десетилетия опит в армията, киберкомандването на САЩ и АНС. Каквото и мнение да има човек за практиките и вземането на решения в тези организации, той със сигурност не може да бъде обвинен в липса на опит, посочва TechCrunch.

„Нашата задача е да създадем AGI; не бих казала, че тя е да изградим свръхинтелигентност“, казва високопоставен ръководител на OpenAI

OpenAI започва обучението на следващия си модел, но съображенията за безопасност продължават

Тъй като OpenAI все повече се утвърждава като доставчик на изкуствен интелект не само за технологичната индустрия, но и за правителствата, отбранителния сектор и големите предприятия, този вид институционални познания са ценни както за самите тях, така и като залъгалка за разтревожените акционери. Несъмнено връзките, които той има в държавните и военните среди, също са добре дошли.

"Отдадеността на OpenAI към мисията ѝ се вписва в моите собствени ценности и опит в публичната служба", заяви Накасоне в съобщение за пресата.

Компанията на Сам Алтман е възразила срещу стремежа на ЕС да проучи всички данни, предоставени на нейните модели за обучение

Желязно лоби: OpenAI оказва натиск на политици заради контрола над изкуствения интелект

Това със сигурност изглежда вярно: Накасоне и Агенцията за национална сигурност на САЩ неотдавна защитиха практиката да купуват данни със съмнителен произход, за да захранват мрежите си за наблюдение, като твърдяха, че няма закон, който да го забранява, отбелязва ТechCrunch. OpenAI, от своя страна, просто е присвоила, а не е купила, големи масиви от данни от интернет, твърдейки, когато я разкриха, че няма закон срещу това.

Опитът на Накасоне ще допринесе и за усилията на OpenAI да разбере по-добре как изкуственият интелект може да се използва за укрепване на киберсигурността чрез бързо откриване и реагиране на заплахи. На този фон АI има потенциал да донесе значителни ползи в тази област за много институции, които често стават обект на кибератаки, като болници, училища и финансови институции.

Накасоне ще се присъедини към комисията за безопасност и сигурност на борда, която "отговаря за изготвянето на препоръки относно критични решения за безопасност и сигурност за проектите и операциите на OpenAI". Какво всъщност прави тази новосъздадена структура и как ще функционира, все още не е известно, тъй като няколко от висшите служители, работещи по въпросите на безопасността, напуснаха компанията, а самият дшаев е в средата на 90-дневна оценка на процесите и предпазните мерки.