OpenAI публикува проект на документация, в която се посочва как трябва да се държат ChatGPT и другите ѝ технологии за изкуствен интелект. Част от дългия документ за спецификацията на модела разкрива, че компанията проучва възможността да навлезе в сферата на порнографията и друго открито съдържание.

Политиките за използване на OpenAI понастоящем забраняват сексуално явно или дори внушаващо съдържание, но в "коментар" към част от документа, цитиран от Wired, се казва, че компанията обмисля как да разреши такова приложение.

"Проучваме дали можем отговорно да предоставим възможност за генериране на NSFW (Не е безопасно за работа) съдържание в подходящи за възрастта контексти чрез API и ChatGPT", пише в бележката. "Очакваме с нетърпение да разберем по-добре очакванията на потребителите и обществото за модел на поведение в тази област."

Издателите предоставиха примери за ChatGPT и Copilot, за които се твърди, че пресъздават информация от статии, без да пренасочват към сайтовете на медиите

Осем медийни издатели съдят Microsoft и OpenAI за авторски права

Документа разкрива, че NSFW съдържанието "може да включва еротика, екстремни сцени, обиди и ругатни". Не е ясно дали проучванията на OpenAI за отговорно генериране на заявки предвиждат само леко разхлабване на политиката за използване, например да се позволи генерирането на еротичен текст, или в по-широк смисъл - да се разрешат описания или изображения на насилие.

Говорителката на OpenAI Грейс Макгуайър казва пред Wired, че документацията е опит да се "осигури по-голяма прозрачност на процеса на разработване и да се получат различни гледни точки и обратна връзка от обществеността, политиците и други заинтересовани страни".

По-рано тази година главният технологичен директор на OpenAI, Мира Мурати, заяви пред The Wall Street Journal, че "не е сигурна" дали компанията в бъдеще ще позволи изобразяването на голота да се прави с инструмента за генериране на видеоклипове на компанията Sora.

Sora създава 60-секундни клипове, които са толкова реалистични, че нетренирано око едва ли може да разбере, че са фалшиви

Дезинформацията по време на изборите в САЩ е проблем за Sora на OpenAI, призна Мира Мурати

Порнографията, генерирана от изкуствен интелект, бързо се превърна в едно от най-големите и притеснителни приложения технологията, чийто пионер е OpenAI. Така наречената deepfake порнография - явни изображения или видеоклипове, които изобразяват реални хора без тяхното съгласие - се превърна в често срещан инструмент за тормоз срещу жени и момичета.

През март Wired съобщи за първите непълнолетни в САЩ, арестувани за разпространение на голи тела, генерирани от изкуствен интелект, след като полицията във Флорида обвини двама тийнейджъри за създаване на тези изображения, изобразяващи техни съученици.

"Нарушенията на неприкосновеността на личния живот в интимната сфера, включително фалшиви секс клипове и други синтезирани интимни изображения без съгласие, са широко разпространени и дълбоко вредни", казва пред Wired Даниел Кийтс Цитрон, професор в Юридическия факултет на Университета на Вирджиния.

"Сега разполагаме с ясна емпирична подкрепа, която показва, че подобни злоупотреби костват на лицата, към които са насочени, изключително важни възможности, включително да работят, да говорят свободно и да бъдат физически в безопасност."

Цитрон нарича потенциалното приемане на OpenAI за подобно съдържание "тревожно".

Ако почувства, че го притискат да вземе решение, служителят трябва да бъде в правото си да откаже, да се свърже с отдел по сигурността и да бъде предпазен

Най-добрата противоотрова срещу дийпфейк – спрете и забавете темпото

Тъй като политиките на компанията забраняват олицетворяването без разрешение, явните изображения без съгласие ще останат забранени, дори ако тя позволи на създателите да генерират NSFW материали. Но остава да се види дали OpenAI би могла ефективно да модерира генерирането на такива материали, за да предотврати използването на инструментите от злонамерени лица.

Microsoft направи промени в един от своите инструменти за генериране на изкуствен интелект, след като 404 Media съобщи, че той е бил използван за създаване на сексуални изображения на Тейлър Суифт, които са били разпространени в X.