Google е премахнал от обобщението си с изкуствен интелект AI Overviews отговори на някои въпроси, свързани със здравето.

Причината е разследване The Guardian, което установява, че съдържат подвеждаща и неточна здравна информация, излагаща потребителите на риск.

Според водещото британско издание AI Overviews предоставя многобройни цифри с малко контекст в отговор на въпроси като „Какъв е нормалният диапазон при изследвания на черния дроб?“ и „Какъв е нормалният диапазон при изследвания на чернодробната функция?“

Вместо да кликват върху даден сайт, читателите получават необходимата им информация от тези обобщения, създадени с изкуствен интелект.

Издатели и медии: AI Overviews крадат трафика ни

Отговорите не вземат предвид никакви различия, които биха могли да възникнат въз основа на националност, пол, етническа принадлежност или възраст, допълва Euronews. Резултатът от търсенето и за двата въпроса се появява с избрани параграфи, извлечени от най-релевантния уебсайт за въпроса на потребителя, в горната част на резултатите.

И за двата въпроса Google базира отговорите си въз основа на нивата на различни вещества в черния дроб, като аланин (ALT), регулиращ производството на енергия за организма, аспартат (AST), идентифициращ увредени кръвни клетки, и алкална фосфатаза (ALP), помагаща за разграждане на протеините.

Търсачката извлича цифрите от Max Healthcare, индийска верига болници с нестопанска цел в Ню Делхи, установява The Guardian.

Разследването установява, че вариации на тези въпроси, като „изследване за чернодробна функция lft референтен диапазон“ или „lft тест референтен диапазон“, генерират AI обобщения.

Целият процес на генериране на отговори от изкуствен интелект на заявки за търсене има потенциал да подвежда, вместо да информира

Безумните отговори на Google AI не са големият проблем

Изследванията за чернодробна функция са кръвни тестове, които измерват протеините и ензимите, за да проверят как функционира черният дроб, допълва Euronews.

Резултатите в търсачката съветват потребителите с рак на панкреаса да избягват храни с високо съдържание на мазнини, което според експерти, цитирани от The Guardian, не е добра препоръка, тъй като може да увеличи риска от фатален край за пациентите.

Разследването идва в момент, в който експерти алармират, че AI чатботовете „халюцинират“, което означава, че измислят фалшиви отговори, когато не разполагат с правилна информация.

Междувременно Google обяви през уикенда, че добавя AI Overviews и към своята услуга за електронна поща Gmail. Новата функция ще позволява на потребителите да задават въпроси и да получават отговори за своите имейли, вместо да ги търсят с ключови думи.