ChatGPT е спрял над 250 000 опита за генериране на изображения на кандидатите в изборите в САЩ
Броят на deepfake продуктите се е увеличил с 900% през годината
OpenAI изчислява, че ChatGPT е отхвърлил над 250 000 искания за генериране на изображения на кандидатите в президентските избори на САЩ през 2024 г. в навечерието на деня на изборите, съобщава компанията в блог публикация.
Отказите включват искания за генериране на изображения, включващи новоизбрания президент Доналд Тръмп, вицепрезидента Камала Харис, президента Джо Байдън, губернатора на Минесота Тим Уолц и новоизбрания вицепрезидент Джей Ди Ванс, казва OpenAI.
Възходът на генеративния изкуствен интелект предизвика опасения за това как дезинформацията, създадена с помощта на технологията, може да повлияе на многобройните избори, провеждащи се по света през 2024 г.
Броят на deepfake продуктите се е увеличил с 900% през годината, според данни от Clarity, компании за машинно обучение. Някои включват видеоклипове, създадени или платени от руски граждани, които се опитваха да осуетят изборите в САЩ, твърдят служители на американското разузнаване.
В доклад от 54 страници от октомври OpenAI заяви, че е прекъснал „повече от 20 операции и измамни мрежи от цял свят, които са се опитали да използват моделите на компанията“. Заплахите варират от статии в уебсайтове, генерирани от AI, до публикации в социалните медии от фалшиви акаунти, пише компанията. Нито една от операциите, свързани с изборите, не е успяла да привлече „вайръл ангажимент“, се отбелязва в доклада.
В петъчния си блог пост OpenAI заявя, че няма никакви доказателства, че тайни операции, целящи да повлияят на резултата от изборите в САЩ, използващи продуктите на компанията, са успели да изградят „устойчива публика“.
Законодателите са особено загрижени за дезинформацията в епохата на генеративния AI, който се разраства от края на 2022 г. след пускането на ChatGPT. Големите езикови модели са все още нови и рутинно бълват неточна и ненадеждна информация.
„Гласоподавателите категорично не трябва да търсят AI чатботове за информация относно изборите – има твърде много притеснения относно точността и изчерпателността“, казва пред CNBC Александра Рийв Гивънс, главен изпълнителен директор на Центъра за демокрация и технологии.