Perplexity разгорещява битката за етичен AI и справедлива употреба на съдържание

Стартъпът за изкуствен интелект Perplexity AI е набрал десетки милиони долари от Джеф Безос и други известни технологични инвеститори за мисията си да се конкурира с Google в областта на oнлайн търсенията.

Но неговият чатбот вече е изправен пред предизвикателства, тъй като някои медийни издания възразяват срещу некоректните му бизнес практики, а технологичните гиганти Google, а сега и Apple, все по-често вграждат подобни АI функции в основните си продукти.

Главният изпълнителен директор на Perplexity Аравинд Сринивас прекара голяма част от изминалата седмица в защита на компанията, след като тя отговори на промпт с информация и формулировка, сходни с разследващ материал на Forbes, но без да цитира медията или да поиска разрешението ѝ. Forbes добавя към случая, че впоследствие са открити подобни "фалшиви" истории в чатбота, взети и от други издания.

Associated Press откри друг проблем в Perplexity, като платформата е отговаряла на запитване с фалшиви цитати от истински хора.

Сринивас oтговаря пред изданието, че компанията му се опитва да изгради положителни взаимоотношения с новинарските сайтове, като гарантира, че благодарение на чатбота му тяхното съдържание "ще достигне до повече хора".

"Определено можем да съжителстваме и да си помагаме взаимно", казва той.

Стартъпът за изкуствен интелект Perplexity пусна първия си B2B инструмент

Запитан за случая с Forbes, Сринивас посочва, че неговият продукт "никога не е изтръгвал съдържание от никого. Нашият двигател не се обучава на чуждо съдържание", отчасти защото компанията просто обобщава това, което генерират системите за изкуствен интелект на други компании.

Но той добавя: "От Forbes точно посочиха, че предпочитат по-ясно подчертаване на източника. Веднага взехме предвид тази обратна връзка и актуализирахме промените още същия ден. И сега източниците са по-ясно показани."

Рандал Лейн, главен директор по съдържанието на Forbes Media, нарича спора "преломна точка" в разговора за AI.

"Това е пример за това накъде вървим", казва Лейн пред AP. "Ако технологичните компании не изпитват фундаментално уважение към тежката работа по изготвянето на репортажи и информирането на хората със съдържание с добавена стойност, имаме голям проблем."

Самоопределящ се като "AI бик", който вярва, че технологията може да помогне за повишаване на ефективността на много новинарски организации, според Лейн спорът между Perplexity и Forbes е важен, защото е "метафора за това какво може да се случи, ако хората, контролиращи изкуствения интелект, не уважават тези, които вършат работата".

Perplexity се обявява за търсачка, а "действа като медийна компания и публикува история която само Forbes е съобщил", отбелязва Лейн.

"Цялото нещо беше много неискрено. И това, което не чухме, беше: "Упс, да, сгрешихме и трябва да се справим по-добре. Вместо това просто се пускаше повече съдържание, малки корекции в модела и се третираше журналистиката като стока, която трябва да се произвежда."

От редакцията до чатбота: Как ОpenAI убеди най-големите новинарски издания да обучават инструментите ѝ

Сринивас, компютърен учен и бивш изследовател в OpenAI и Google, основава Perplexity през лятото на 2022 г., малко преди генераторът на изображения Stable Diffusion и ChatGPT да започнат да предизвикват увлечението на обществеността по възможностите на генеративния изкуствен интелект.

Вдъхновен отчасти от детската си любов към Уикипедия, той описва Perplexity пред AP като "брак между Уикипедия и ChatGPT", който може незабавно да отговори на въпросите на човек без "огромната претрупана бъркотия" на традиционните резултати от търсенето в Google.

"Задавате въпрос, получавате отговор с изчистени източници и има три или четири предложени (последователни) въпроса и това е всичко. По този начин съзнанието на хората може да се освободи от разсейващи фактори и те могат да се съсредоточат само върху ученето и задълбочаването."

Компанията продава абонамент за първокласни функции и планира да започне да предоставя услуги, базирани на реклами, когато увеличи потребителската си база. Perplexity разчита на съществуващи големи езикови модели, като тези, изградени от OpenAI, Anthropic и Meta, и след това ги "дообучава".

"Оформяме ги така, че да станат наистина добри обобщители", казва Сринивас.

Не винаги е ясно откъде идва обобщената информация. Една от функциите на Perplexity, наречена Writing (Писане), която позволява на потребителя да "генерира текст или чат, без да търси в интернет", създава дълги коментари без посочени източници, често в стила на новинарска статия.

От надежди за по-висока творческа продуктивност до страхове за мрачно бъдеще: Какво ще стане, когато Sora попадне в ръцете ни?

Тестовете на функцията от репортер на AP, който я моли да напише за липсата на марихуана в острова Мартас Винярд, водят до това, че тя създава документ от 465 думи, който прилича на новинарска статия и включва измислени цитати от бивш служител на града и друго реално лице.

AP не повтаря фалшивите цитати, за да избегне затвърждаването на дезинформацията. Сринивас посочва, че функцията за писане на Perplexity е предназначена за подпомагане на съставянето на есета или за коригиране на граматиката, когато не е необходима информация от първоизточника. Той казва, че тя е "по-податлива на халюцинации" - често срещан проблем при големите езикови модели - защото не е обвързана с възможностите за търсене в интернет на основния продукт Perplexity.

"Няма съмнение, че генеративният AI преобръща журналистиката, създаването на съдържание и търсенето", казва пред ABC Сара Крепс, директор на Института за техническа политика към Университета Корнел.

Тя дава за пример новия подход на Google, подобен на този на Perplexity, който обобщава отговорите въз основа на информация, извлечена от сканиране на мрежата. Това също доведе до невярна информация и принуди Google да направи корекции на продукта си след публичното му пускане.

"Но целият им рекламен модел се основава на препращане на хора към уебсайтове", казва Крепс. "Защо им е на хората да търсят по уебсайтовете, ако могат просто да получат отговори от АI?"

Сринивас обяснява пред AP, че "много изданния получават препоръки от Perplexity и аз съм щастлив, че това се случва от нов играч като нас".

Талантът срещу AI: Гласът на Скарлет Йохансон озвучи най-големия страх на Холивуд

Световната потребителска база на Perplexity нараства бързо и през май е достигнала над 85 милиона посещения, но това едва ли е достатъчно в сравнение с милиардите потребители на ChatGPT и други популярни платформи на Microsoft и Google, според данни на Similarweb.

Дебатът показва "несигурните и трудни времена" за създателите на онлайн съдържание като цяло и за журналистиката в частност, защото агрегаторите работят само ако съществуват издания като Forbes, казва Стивън Линд, доцент в Marshall School of Business към Университета на Южна Калифорния.

Използването на изкуствен интелект като инструмент за синтез е полезно за широкото разпространение на информация, докато "не свършат оригиналите", добавя той.