С развитието на изкуствения интелект нарастват и опасенията, че технологията може да улесни създаването на биологични оръжия. Макар много учени да смятат подобен сценарий за малко вероятен, вече се разработват инструменти за откриване на потенциални заплахи.

Един от тях е Omnii Defense, нов AI модел на американския стартъп Radical Numerics, който анализира генетични последователности, за да разпознава естествени и генетично модифицирани патогени.

Системата може да работи на обикновен лаптоп, свързан чрез USB с преносимо устройство за генетично секвениране. Не е необходима и интернет връзка, което позволява използването ѝ от изследователи и здравни специалисти на терен, включително в отдалечени райони, съобщава WIRED.

Според Ерик Нгуен, съосновател и главен изпълнителен директор на Radical Numerics, в биологичната сигурност се очертава надпревара, подобна на тази в киберсигурността, където AI вече се използва както за атаки, така и за защита.

„Имахме усещането, че технологиите за защита в областта на биологичната сигурност изостават значително“, казва той пред WIRED.

Radical Numerics е основана през 2025 г. в Сан Франциско от изследователи, участвали в разработването на Evo и Evo-2, модели за анализ на ДНК с отворен код, създадени по време на докторантската им работа в Станфордския университет.

Компанията привлече внимание с представянето на Omnii, който обработва различни видове биологична информация, включително ДНК, РНК, протеини и епигенетични сигнали, свързани с регулирането на генната активност.

През октомври стартъпът обяви, че е използвал технологията за създаване на бактериофаги, вируси, които инфектират и унищожават определени бактерии. Разработката е насочена срещу устойчив на антибиотици щам на Escherichia coli (E. coli), а комбинация от тези вируси е приложена за лечение на пациент със специално разрешение от Американската агенция по храните и лекарствата (FDA).

Проектът обаче предизвика противоречия, след като стана ясно, че в него е участвала и друга биотехнологична компания, Tabula Bioscience, която Radical Numerics не споменава в първоначалното си съобщение.

Пропускът доведе до оттеглянето на генетика от Харвард Джордж Чърч от консултантската му позиция в Radical Numerics. Той е бил съветник и на двете компании, отбелязва WIRED.

Свободно достъпни китайски AI модели почти достигат OpenAI в тестове за хакерски атаки

Как работи новата система?

Omnii Defense оценява вероятността дадена генетична последователност да принадлежи на болестотворен организъм, да е резултат от изкуствена намеса или да има сходства с определена група познати организми.

На тази основа моделът изчислява оценка за потенциална заплаха по скала от 0 до 1, като по-високата стойност показва по-голям предполагаем риск.

Основната разлика спрямо някои съществуващи инструменти е, че технологията не разчита единствено на сравнение с вече известни генетични последователности.

Например финансираната от американското правителство система Felix сравнява изследвания генетичен материал с бази данни за познати организми. Това позволява откриването на сходства с известни патогени, включително когато са претърпели ограничени генетични изменения.

Omnii Defense използва различен подход. Вместо да търси само съвпадения, моделът разпознава закономерности, свързани с биологичните функции, дори когато генетичната последователност се различава от познатите образци.

По този начин технологията би могла да идентифицира непознати или модифицирани патогени, които традиционните методи не успяват да открият.

Силициевата долина обещава, че AI ще лекува болести. Фармацевтичните лидери не са убедени

Може ли AI да разпознае непознат вирус?

За да провери възможностите на Omnii Defense, Radical Numerics провежда експеримент с вируса Bundibugyo, който причинява една от формите на болестта ебола.

Изследователите премахват информацията за него от данните за обучение, първо само за конкретния вид, а след това и за целия род, към който принадлежи.

Целта е да установят дали системата може да разпознае потенциално опасен патоген, без предварително да разполага с информация за него или за близки до него вируси.

„Все едно Omnii работеше през 1976 г.“, обяснява Кристин Партмор, ръководител на отдела за биологична защита в Radical Numerics, визирайки годината, в която е открит вирусът ебола.

Когато от обучаващите данни е изключен само конкретният вид, моделът определя 33% от предоставените последователности на Bundibugyo като потенциално патогенни.

При премахване на информацията за целия род делът намалява до 22%.

Според Партмор традиционните инструменти без изкуствен интелект практически не са отчели признаци за риск при същия експеримент.

Резултатите подсказват, че технологията може да открива непознати биологични заплахи, но разкриват и сериозни ограничения. Дори при по-добрия от двата резултата по-голямата част от изследваните последователности не са разпознати като потенциално опасни.

Освен това данните са представени от самата компания и все още не са независимо потвърдени.

Потенциалът е голям, но надеждността предстои да бъде доказана

Бронуин Макинис, директор по наблюдението на патогени в програмата за инфекциозни заболявания и микробиом към Broad Institute на MIT и Харвард, смята, че използването на AI за противодействие на биологични заплахи е разумен подход.

„Трябва да следим внимателно какви възможности създава изкуственият интелект. Ако можем да използваме технологията, за да се противопоставим на злонамерени участници и дори да ги изпреварим, това има смисъл“, казва тя пред WIRED.

Макинис обаче предупреждава, че откриването на подозрителни генетични характеристики не е достатъчно, за да се установи дали даден патоген представлява реална опасност или е създаден изкуствено.

Засега достъпът до Omnii Defense е ограничен до предварително одобрени външни тестови екипи. Radical Numerics съобщава, че работи с национални лаборатории, държавни агенции и независими експерти, които оценяват работата на модела.