Функцията за изкуствен интелект на iPhone генерира фалшиви сигнали за новини, подклаждайки опасения относно потенциала на технологията да разпространява дезинформация.

Apple рекламира генерираните от AI обобщения на известията като ефективен начин да помогне на потребителите да сканират своите известия за ключови подробности и да намалят огромния поток от актуализации.

Тъй като въпросната функция се опитва да консолидира известията и да ги кондензира, за да покаже само основно обобщение на информацията, той смесва думите по начин, който неточно характеризира събитията - но уверено ги представя като факти, обобщава казуса CNBC.

Това води до т. нар. „AI халюцинации“ – отговори, които съдържат невярна или подвеждаща информация.

Какви са грешките?

Миналата седмица наскоро стартирана от Apple AI функция изпрати неточно обобщени известия от приложението BBC News за полуфинала на Световното първенство по дартс, лъжливо твърдейки, че британският играч Люк Литлър е спечелил шампионата.

Инцидентът се случи ден преди самия финал на турнира, който Литлър все пак успя да спечели.

Часове след този инцидент, отделно известие, генерирано от Apple Intelligence, системата за изкуствен интелект на технологичния гигант, отправи лъжливо твърдение, че тенис легендата Рафаел Надал се е разкрил като гей.

Технологичната група вече е фактор за увеличаване на приходите на издателите в САЩ, Обединеното кралство, Канада и Австралия

Apple разширява приложението си за новини News

BBC се опитва от около месец да накара Apple да реши подобни проблеми. Британският държавен телевизионен оператор се оплаква на технологичният гигант още през декември, след като функцията му за изкуствен интелект генерира фалшиво заглавие, което предполага, че Луиджи Манджоне, мъжът, арестуван след убийството на изпълнителния директор на здравноосигурителната компания UnitedHealthcare Брайън Томпсън в Ню Йорк, се е застрелял – което не е вярно.

До голяма степен зависи от компаниите да определят дали техният AI модел е способен да причини огромни вреди на човечеството. Ето как го правят изследователите от стартъпа Anthropic, обединени във Frontier Red Team

Екип за бързо AI реагиране: Най-страшните сценарии, които тестват учените на Anthropic

В понеделник от Apple са уведомили BBC, че се работи върху актуализация за разрешаване на проблема чрез добавяне на пояснение, което показва кога инструментът Apple Intelligence е отговорен за текста, показван в известията. В момента генерираните от AI новинарски известия се показват като идващи директно от източника.

„Функциите на Apple Intelligence са в бета версия и ние непрекъснато правим подобрения с помощта на отзивите на потребителите“, посочва компанията в изявление, споделено с BBC. Apple добавя, че насърчава потребителите да докладват своите тревоги, ако видят „обобщение на неочаквано известие“.

BBC не е единствената новинарска организация, която е засегната от неточното обобщаване на известия за новини от Apple Intelligence. През ноември функцията изпрати известие, обобщено от AI, грешно твърдейки, че израелският премиер Бенямин Нетаняху е арестуван.

Грешката беше отбелязана в приложението за социални медии Bluesky от Кен Швенке, старши редактор в сайта за разследваща журналистика ProPublica.

Meta върви по стъпките на X, позволявайки на потребителите да проверяват фактите помежду си с т.нар „Community Notes"

Социалните мрежи разхлабват железния си захват върху свободното съдържание

„Подозирам, че Apple няма да бъде сама в предизвикателствата с генерираното от AI съдържание. Вече видяхме множество примери за AI услуги, които уверено казват неистини”, коментира пред CNBC Бен Ууд, главен анализатор в компанията за пазарни проучвания CCS Insights.

„Apple несъмнено ще се опита да се справи с това възможно най-скоро и съм сигурен, че съперниците ще го наблюдават внимателно, за да видят как ще реагира“, добавя Ууд.

„Позицията, че никога не трябва да използваме изкуствен интелект в отбраната и разузнаването, е безсмислена. Позицията, че трябва да се развихрим и правим каквото си искаме с него, е безумна“, казва основателят на водещия стартъп за AI агенти - Anthropic

Да пуснеш гном в компютъра си: Дарио Амодей знае как се обуздава AI

Генеративният AI работи, като се опитва да намери най-добрия възможен отговор на въпрос или подкана от страна на потребител, разчитайки на огромни количества данни, върху които са обучени основните му големи езикови модели.

Понякога AI може да не знае отговора. Но тъй като е програмиран винаги да представя отговор на потребителски подкани, това може да доведе до случаи, в които лъже.

Не е ясно точно кога решението на Apple за грешката в нейната функция за обобщаване на известията ще бъде коригирано. Производителят на iPhone казва, че очаква такъв да има през „следващите седмици“.