Срив, изключване, забавяне: Техническите аномалии може да станат „новото нормално“ в AI ерата
Залогът за интернет сигурността е все по-висок. AI разкрива нови уязвимости, а компании и институции се надпреварват да ги отстранят, преди да станат мишена на хакери – игра на „котка и мишка“, която създава нов набор технически проблеми
,fit(1001:538)&format=webp)
Потребители без достъп до електронните пощи. Забавени банкови услуги. Срив в комуникациите, който задържа самолетите на земята за часове, последван от вълна други смущения в полетите.
Медийният поток изобилстваше от подобни заглавия през последните дни. В един все по-взаимосвързан свят някои експерти се опасяват, че такива неочаквани смущения могат да се превърнат в „новото нормално“.
Само за изминалата седмица в Microsoft, Apple, JPMorgan Chase и дори във Федералната авиационна администрация и Агенцията за национална сигурност на САЩ възникнаха проблеми, които изглеждаха свързани с рутинни актуализации, мерки за сигурност или други технически неизправности.
Администрацията във Вашингтон заявява, че няма „никакви“ признаци, че тези прекъсвания са свързани или са причинени от злонамерени извършители, отбелязва AP.
Ерата на изкуствения интелект също вдига залога за интернет сигурността като цяло. Тъй като инструментите с AI разкриват нови уязвимости, много други компании и институции се надпреварват да ги отстранят, преди да станат мишена на хакери – игра на „котка и мишка“, която може да доведе до нов набор от технически проблеми.
Платформите за социални медии гъмжат от смесица от раздразнение, объркване, конспиративни теории и шеги сред потребителите относно поредицата от прекъсвания.
„Да видим няколко прекъсвания в толкова кратък период, мисля, че е накарало много хора да осъзнаят колко аспекти от живота си са поверили на тези системи, които все още не разбираме напълно“, заявява Джейк Смит, създател на съдържание, който редовно публикува видеоклипове за политика в Instagram и YouTube. „Мисля, че това дава на хората усещане за безпомощност, когато виждат как всичко се случва едновременно“, допълва той.
Какво се срина
Прекъсванията и техническите грешки се натрупаха в различни сектори.
В края на миналата седмица глобално прекъсване в Microsoft наруши достъпите до електронната поща и други работни инструменти, което доведе до хаос в бизнеса и ежедневните услуги по целия свят.
Услугите на Microsoft 365, включително Outlook, Teams и AI асистентът Copilot, бяха прекъснати. Компанията посочи, отчасти, повреда при скорошно обновяване на сървърите, дължаща се на т.нар. „латентен дефект“ в мрежова поправка, чието внедряване е започнало през лятото.
Във въздушния транспорт неизправност в мрежата на Федералната авиационна администрация (FAA) доведе в петък до най-дългото спиране на полетите в САЩ за последните 25 години. То продължи над четири часа, а авиокомпаниите отмениха и забавиха голям брой полети. Само няколко дни по-късно United Airlines претърпя собствено прекъсване на системата, което я принуди да забави излитащите полети в понеделник.
В понеделник бяха регистрирани проблеми с онлайн банкирането. JPMorgan Chase съобщи, че софтуерен бъг е засегнал вътрешните ѝ хардуерни системи, което е довело до забавяния при транзакциите на клиентите ѝ и на други лица, изпращащи пари към свързани с тях сметки, и е предизвикало тревога в цялата финансова система, преди проблемът да бъде разрешен.
Във вторник Apple, Marriott и Агенцията за национална сигурност (NSA) на САЩ се присъединиха към списъка. Услугите Apple Music, App Store и AppleCare бяха временно прекъснати, след като компанията съобщи, че вътрешна актуализация е причинила прекъсвания. Marriott също съобщи, че технически проблем е причинил затруднения при влизането в уебсайта и приложението им.
NSA съобщи, че вътрешната мрежа, която използва за обмен на класифицирана информация, е била изключена във вторник „по време на планирана рутинна поддръжка“.
Американското правителство, както и Microsoft, JPMorgan Chase, Apple, и United Airlines Marriott заявиха, че няма доказателства прекъсванията да са свързани с кибератака. Microsoft също отбеляза, че прекъсването не е свързано с „изкуствен интелект / агенти“.
AI открива уязвимостите, но увеличава рисковете
Въпреки това изкуственият интелект (AI) е в центъра на вниманието, докато експертите оценяват тези сътресения, както по отношение на повишените рискове, свързани с технологията, така и по отношение на способността ѝ да открива пропуски в сигурността.
Например, наскоро изкуственият интелект помогна за откриването на мащабни уязвимости в PHP, език за скриптове с общо предназначение, който се използва за работата на уебсайтове по целия свят, което доведе до спешни призиви за актуализации.
Директорът на Националната разузнавателна служба на САЩ Джей Клейтън, посочва директно необходимостта от отстраняване на тези пропуски в сигурността, когато обсъждаше прекъсването на работата на Агенцията за национална сигурност (NSA). Пред Fox News той заявява, че актуализациите, направени след предупреждението за PHP са довели някои системи да „не се възстановят“ както се очаква. „Това се случи днес в NSA“, допълва той.
Междувременно тази седмица, стартъпът за киберсигурност Calif съобщи, че е използвал AI, за да помогне за разкриването на софтуерен бъг в Java – един от най-широко използваните езици за програмиране в света и от решаващо значение за много големи компании.
Oracle, собственик на Java, по-късно пусна актуализация за сигурност, а американските кибервласти издадоха препоръка, призоваваща компаниите да я инсталират.
В същото време други предупреждават, че бумът на AI може да отвори вратата за допълнителни смущения.
„С ускоряването на внедряването на изкуствения интелект вероятно ще станем свидетели на повече инциденти от този характер“, заявява Радж Раджараджан, директор на Института за киберсигурност в City St George’s University, Лондон.
Според него голяма част от дигиталната инфраструктура в днешно време не е проектирана да се справя с „изчислителните изисквания на широкомащабните услуги, свързани с изкуствения интелект“.
Въпреки че последните прекъсвания не са свързани с хакери или координирана атака, той и други експерти посочват рисковете за киберсигурността в по-широк план.
„Изкуственият интелект определено улеснява атакуващите да предприемат и провеждат кибератаки. Той не е толкова добър в създаването на предпазители от бъгове, например отстраняването на проблеми, колкото в експлоатирането“, заявява Джъстин Кейпъс, професор по киберсигурност към Нюйоркския университет.
В доклад за киберсигурността, публикуван тази седмица, Google посочва, че хакерите и киберпрестъпниците „излизат извън рамките на елементарните команди“ и използват все по-сложни техники с изкуствен интелект, за да планират и осъществяват атаките си. Докладът, който се фокусира върху злонамерената дейност, а не върху прекъсванията, посочва, че те включват използване на големи езикови модели и „агентни рамки“ за обратно инженерство с цел разкриване на уязвимости и тяхното експлоатиране.
Не толкова видим (засега) участник в онлайн живота
Последните прекъсвания предлагат още примери за ефектите, които могат да възникнат, когато ключов участник в технологичния сектор, банковото дело, туристическия сектор или дори правителството на САЩ се сблъска със системни грешки, нарушаващи нормалното функциониране на услугите.
Демократичният сенатор Марк Уорнър, съпредседател на Комитета по киберсигурност към Сената на САЩ, призна широко разпространената загриженост и отново подчерта какво означава това в ерата на изкуствения интелект.
„Тези сривове трябва да служат като сигнал за тревога. Всеки ден ни напомня, че изкуственият интелект се развива по-бързо, отколкото способността да се справяме с последствията от него“, заявява той и изтъква, че администрацията на Тръмп не проявява нужния интерес към справянето с тези предизвикателства.
Все пак, „въз основа на това, което знаем днес, има основателни причини да вярваме, че тези сривове са непредвидени последствия от усилията да направим системите ни по-безопасни“, добавя сенаторът.
,fit(334:224)&format=webp)
,fit(334:224)&format=webp)
,fit(334:224)&format=webp)
&format=webp)
&format=webp)
)
,fit(334:224)&format=webp)
&format=webp)
&format=webp)
,fit(1920:897)&format=webp)
,fit(140:94)&format=webp)
,fit(140:94)&format=webp)
,fit(140:94)&format=webp)
&format=webp)
,fit(140:94)&format=webp)
,fit(140:94)&format=webp)
&format=webp)