Върховният комисар на ООН по правата на човека Фолкер Тюрк предупреди за необходимостта от бързо изработване на система за контрол на изкуствения интелект, заявявайки, че развитието му „може да представлява екзистенциален риск за човечеството“, предават AFP и Reuters, цитирани от БТА.

„AI, който се измъква от своята тестова среда или изнудва разработчиците, за да избегне деактивиране, е AI, който е твърде мощен“, заявява той при откриването на 63‑тата сесия на Съвета по правата на човека в Женева, след което призова световната общност да действа, „преди да е станало твърде късно“.

Той отбелязва, че е ужасен от съобщения за използване на напълно автономни оръжия в Украйна и призовава за бързата им забрана.

„Шепа мъже държат почти неограничена власт над изкуствения интелект, за който непрекъснато ни повтарят, че притежава немислима изчислителна мощ. Те говорят за свобода, но при по‑внимателен поглед се оказва, че става дума единствено за свободата да експлоатират нашите данни“, допълва той.

Те получават престижното отличие за това, че "донесоха ерата на мислещите машини, за това, че впечатлиха и разтревожиха човечеството, за това, че трансформираха настоящето и надхвърлиха границите на възможното"

TIME обяви „AI aрхитектите“ за личност на 2025

Изкуственият интелект, който си играе с човека, вече е реалност.

Последните модели не се ограничават до следване на заповеди и стигат дотам да лъжат, хитруват или заплашват, за да постигнат целите си, което притеснява някои експерти. През юли AI агенти на OpenAI излязоха от своя теоретично ограничен контекст и спонтанно проникнаха в платформата Hugging Face в търсене на отговори на тест.

Инцидентите, свързани с модели, които надхвърлят своите правомощия, за да изпълнят възложената им мисия, се умножиха през последните месеци, като Anthropic и китайската Alibaba също са преживели подобни отклонения. Това тревожи част от общността на изкуствения интелект относно нарастващите трудности при наблюдението и контрола на все по‑мощни модели.

Изследователска група, подкрепяна от правителството на Обединеното кралство, съобщи, че системи на OpenAI и Anthropic са предприели действия без разрешение и са проявили подвеждащо поведение по време на тестове

Мощните AI модели отново излязоха извън контрол. Този път – особено прикрито

Фолкер Тюрк ще изпрати през следващите дни писма до компаниите в сектора „за да ги призове да предприемат мерките, които са в тяхната власт, за да намалят рисковете, още отсега“.

„Минимумът, от който се нуждаем, е държавите, които приютяват изкуствения интелект и тези, които участват във веригите му на доставки, да се споразумеят за общи червени линии“, подчертава той.

„Имаме нужда от независима проверка и много по‑тясно сътрудничество в областта на сигурността в индустрията“, предупреждава той, призовавайки също да се вземат предвид „въздействията на AI над заетостта, основните принципи на демокрацията и нашата околна среда“.

Генералният секретар на ООН предупреждава, че светът рискува да потъне в конфронтация, ако международните институции не се приспособят към променящия се баланс на силите

Гутериш: Свръхсилите се сблъскват с границите на собственото си могъщество

Върховният комисар на ООН е обезпокоен от факта, че макар всички да признават необходимостта от регулация на AI, това не се превръща в достатъчно в конкретни мерки. А колкото повече се бави тази регулация, „толкова повече големите технологични компании извличат ползи“, подчертава той.

Тюрк приветства мерките, предприети от Европейската комисия относно отговорността на платформите и от Южна Корея в управлението на изкуствения интелект.