Dyrektor generalny CertiK ostrzega, że agenci AI mogą stać się kolejną poważną katastrofą bezpieczeństwa kryptowalut

Gwałtowny rozwój sztucznej inteligencji stwarza nowe możliwości w obszarze technologii i finansów, ale według dyrektora generalnego CertiK może to również stanowić podwaliny dla jednego z najpoważniejszych zagrożeń cyberbezpieczeństwa, z jakimi kiedykolwiek zmierzyła się branża kryptowalut.

Wraz z rozwojem sztucznej inteligencji (AI), firmy coraz częściej przyznają im dostęp do wrażliwych systemów, takich jak poczta e-mail, bazy danych, chmura obliczeniowa, platformy finansowe i portfele kryptowalut. Automatyzacja ta, choć zwiększa wydajność, otwiera również nowe możliwości ataków, które cyberprzestępcy już uczą się wykorzystywać.

Jednym z najgroźniejszych pojawiających się zagrożeń jest tzw. atak typu instant injection. W przeciwieństwie do tradycyjnych metod hakerskich, które opierają się na złośliwym oprogramowaniu lub wykorzystaniu luk w kodzie, ataki typu instant injection manipulują sposobem, w jaki systemy sztucznej inteligencji interpretują informacje i instrukcje.

W typowym ataku złośliwe instrukcje są ukryte w pozornie nieszkodliwych treściach, takich jak pliki PDF, wiadomości e-mail, strony internetowe czy dokumenty. Kiedy agent AI przetwarza te treści w ramach swojego zadania, może nieświadomie potraktować ukryte instrukcje jako prawidłowe polecenia i je wykonać.

Może to prowadzić do poważnych konsekwencji. Zhakowany agent AI może ujawnić poufne dane, ujawnić dane uwierzytelniające, zatwierdzić nieautoryzowane transakcje lub w nieumyślny sposób wejść w interakcję z portfelami kryptowalut. W niektórych przypadkach może to skutkować bezpośrednimi stratami finansowymi.

Ataki te są szczególnie niebezpieczne, ponieważ tradycyjne narzędzia cyberbezpieczeństwa często ich nie wykrywają. Oprogramowanie antywirusowe i skanery złośliwego oprogramowania są zaprojektowane do identyfikacji złośliwego kodu, ale ataki typu prompt injection często opierają się jedynie na manipulacji tekstem. Pozwala im to ominąć wiele istniejących systemów bezpieczeństwa.

Badacze z CertiK donoszą, że zidentyfikowali już setki złośliwych wtyczek, fałszywych instalatorów i naruszonych zależności zaprojektowanych specjalnie z myślą o systemach opartych na sztucznej inteligencji. Wiele z tych narzędzi wydaje się legalnych, ale zostały stworzone do manipulowania zachowaniem sztucznej inteligencji po zintegrowaniu ich z procesami pracy.

Branża kryptowalut jest szczególnie narażona na te zagrożenia. Agenci AI są obecnie wykorzystywani w systemach transakcyjnych, platformach DeFi, narzędziach do zarządzania portfelem i analityce blockchain. W miarę jak agenci ci uzyskują uprawnienia do wykonywania operacji finansowych, potencjalny wpływ każdego udanego ataku znacząco wzrasta.

Kolejnym rosnącym problemem jest wzrost liczby krótkotrwałych oszustw, których celem są systemy automatyczne, a nie użytkownicy. Niektórzy atakujący tworzą tymczasowe pułapki, które działają tylko przez minuty lub godziny, wystarczająco długo, aby oszukać boty handlowe oparte na sztucznej inteligencji lub zautomatyzowanych agentów, zanim znikną.

To oznacza zmianę w strategii cyberprzestępczości. Zamiast koncentrować się wyłącznie na użytkownikach ludzkich, wykorzystując phishing lub socjotechnikę, atakujący coraz częściej celują w systemy decyzyjne oparte na maszynach, które działają znacznie szybciej i bez udziału człowieka.

Eksperci ds. bezpieczeństwa ostrzegają, że agenci AI mogą przetwarzać informacje i wykonywać działania niemal natychmiast. Chociaż taka prędkość poprawia wydajność, zwiększa również ryzyko. Użytkownik może rozpoznać podejrzane instrukcje przed zatwierdzeniem transakcji, ale agent AI może działać natychmiast, jeśli nie istnieją żadne zabezpieczenia.

Aby przeciwdziałać tym zagrożeniom, CertiK apeluje o przyjęcie modelu bezpieczeństwa Zero Trust dla systemów AI. W tym podejściu żadne narzędzie, wtyczka ani instrukcja nie są domyślnie zaufane. Każde żądanie musi być weryfikowane i stale monitorowane, niezależnie od jego źródła.

Model Zero Trust stał się już powszechny w cyberbezpieczeństwie przedsiębiorstw, jednak eksperci uważają, że będzie on niezbędny w środowiskach, w których systemy sztucznej inteligencji wchodzą w bezpośrednią interakcję z poufnymi danymi i aktywami finansowymi.

Zwolennicy sztucznej inteligencji argumentują, że zagrożenia te są częścią wczesnego rozwoju technologicznego i będą się zmniejszać wraz z rozwojem branży. Wskazują, że wiele przełomowych technologii początkowo stwarzało nowe wyzwania bezpieczeństwa, zanim opracowano odpowiednie zabezpieczenia.

Krytycy ostrzegają jednak, że wdrażanie sztucznej inteligencji postępuje szybciej, niż ramy bezpieczeństwa są w stanie za nim nadążyć. Wiele firm wdraża autonomicznych agentów, nie do końca rozumiejąc, jak można nimi manipulować lub nadużywać ich potencjału.

W branży kryptowalut, gdzie aktywa cyfrowe przemieszczają się błyskawicznie i nieodwracalnie, ryzyko jest szczególnie wysokie. Nawet niewielka luka w zabezpieczeniach powszechnie stosowanych systemów sztucznej inteligencji może prowadzić do strat finansowych na dużą skalę.

Ostrzeżenie CertiK uwydatnia szerszą zmianę w cyberbezpieczeństwie. Wraz ze wzrostem potencjału automatyzacji, zagrożenia wykraczają poza tradycyjne złośliwe oprogramowanie, zmierzając w kierunku manipulacji samymi systemami inteligencji. W niektórych przypadkach starannie opracowany fragment tekstu może wystarczyć, aby wywołać niezamierzone działania finansowe.

To, czy agenci AI staną się rewolucyjnymi narzędziami, czy też poważnym zagrożeniem dla bezpieczeństwa, będzie zależeć od tego, jak szybko branża się dostosuje. Na razie eksperci zdecydowanie zalecają ostrożność i podkreślają, że zaufanie zawsze musi zostać zweryfikowane – nawet w przypadku sztucznej inteligencji.