Потенциалът за разпространение на дезинформация от най-новия пробив на OpenAI, инструментът за преобразуване на текст във видео - Sora, ще повлияе върху плановете за пускането му на пазара.

Главният технологичен директор на компанията Мира Мурати заяви пред The Wall Street Journal, че остава много работа, за да рационализират мощния инструмент, който да съответства на размера и сложността на техния генератор на изображения DALL-E.

Целта на тези усилия е да се намалят изчислителните изисквания и съответно цената.

"Опитваме се да го направим достъпен на цена, подобна на тази, която видяхме при DALL-E", обясни Мурати, добавяйки, че Sora все още е "много, много по-скъп".

Само преди година видеоклиповете, генерирани от AI бяха аматьорски и лесно разпознаваеми. Но Sora създава 60-секундни клипове, които са толкова реалистични, че нетренирано око едва ли може да разбере, че са фалшиви.

Опитът на потребителите с усъвършенствани видеоклипове с изкуствен интелект е оскъден, което ги прави идеален инструмент за злонамерени участници, които искат да повлияят на общественото мнение, допълва Fortune.

Най-новият модел на OpenAI - Sora - генерира реалистични видеоклипове

На въпрос дали Sora трябва да бъде пуснат преди ноември – когато цялата Камара на представителите, една трета от Сената и Белият дом ще бъдат избрани, Мурати отговаря, че възможността за злоупотреба технологията наистина е притеснителна.

"Това е съображение, свързано с проблемите на дезинформацията и ние няма да пуснем нищо, за което не се чувстваме сигурни, когато става въпрос за това как то може да повлияе на глобалните избори", категорична е Мурати, която за кратко встъпи в длъжност като временен главен изпълнителен директор на компанията по време на кризата с ръководството през ноември.

Sora на OpenAI все още не е широкодостъпен, но вече разтърсва Холивуд. Може би не трябва

"Трябва да решим тези проблеми"

Да вземем за пример Марк Кей, консервативен водещ на радиопредаване Флорида.

Този месец "Панорама" на BBC съобщи как той е създал генерирани от изкуствен интелект изображения на Тръмп, заобиколен от тълпа тъмнокожи избиратели и ги е споделил с над един милион последователи във Facebook като доказателство, че бившият президент е популярен сред всички демографски групи.

Анатомия на дълбокия фейк: Как се създават събития, които не са се случвали

Не само американците обаче тази година отиват до урните.

Обединеното кралство вероятно ще проведе общ вот, може би още през май, а гражданите на Европейския съюз ще гласуват за следващия парламент на ЕС през юни.

Вероятно по това време и индийците ще имат възможност да кажат дали хиндуистката националистическа партия на Нарендра Моди ще остане начело на страната.

Общо над половината от населението на Земята ще гласува през 2024 г., която списание Time нарече "година, която ще доведе до промяна на демокрацията"

Благодарение на изкуствения интелект обаче гласоподавателите ще бъдат изправени пред по-голямо предизвикателство от всякога да решат дали съдържанието, което виждат и чуват, е истинско или не.

"Трябва да изясним тези въпроси, преди да можем уверено да ги прилагаме широко", смята Мира Мурати.

Microsoft, OpenAI и Google се включиха в пакт за борба с AI фалшификати

Използва ли OpenAI съдържание с авторски права за обучение

OpenAI с помощта на Microsoft като главен инвеститор, вложи всички усилия в създаването на най-убедителните инструменти за генеративен изкуствен интелект.

"Нашата цел беше да се съсредоточим върху разработването на най-добрите възможности", твърди Мурати, обяснявайки защо Sora все още е твърде скъп, за да се предлага на потребителите.

"Сега ще търсим оптимизиране на технологията, така че хората да могат да я използват на ниска цена и да я направим лесна за използване."

Когато обаче се стига до въпроса относно произхода на наборите от данни, използвани за обучението на Sora, Мурати е лаконична и заявява, че всички те са публично достъпни или лицензирани.

"Всъщност не съм сигурна за това", отговаря тя на въпрос дали са използвали видеоклипове от YouTube в процеса.

Пореден иск срещу Microsoft и OpenAI за нарушаване на авторски права

Автори като Джордж Р. Р. Мартин, както и медии като New York Times наскоро съдиха OpenAI за нарушаване на авторски права, твърдейки, че тяхното съдържание е използвано без тяхното съгласие за разработване на търговски продукт като ChatGPT без компенсация.

При по-настоятелно запитване относно източника на данните за обучение на Sora, Мурати отказа да коментира.

"Просто няма да навлизам в подробности за данните, които са използвани, но това са публично достъпни или лицензирани данни", допълва тя.