Po raz pierwszy w historii udokumentowano przypadek, w którym hakerzy użyli sztucznej inteligencji do samodzielnego wykrycia i uzbrojenia luki zero-day (więcej o atakach typu zero-day dowiecie się z tego raportu). Google tym razem powstrzymało planowany atak na dużą skalę, ale badacze są zgodni: to dopiero początek.
Raport opublikowany w poniedziałek przez Google Threat Intelligence Group (GTIG) ujawnia bezprecedensowy przypadek w historii cyberbezpieczeństwa. Przestępcy posłużyli się modelem językowym, żeby znaleźć nieznaną wcześniej lukę w popularnym, open-source’owym narzędziu administracyjnym dostępnym przez przeglądarkę. Nazwa narzędzia niestety nie została podana.
Co umożliwiał exploit?
Wykorzystana luka pozwalała ominąć uwierzytelnianie dwuskładnikowe (2FA) w sytuacji, gdy atakujący dysponował już ważnymi danymi logowania. Błąd miał charakter logiczny wysokiego poziomu i wynikał z zakodowanego na stałe założenia o zaufaniu w przepływie uwierzytelniania. To właśnie ten typ podatności, który tradycyjne narzędzia skanujące zwykle pomijają, a modele językowe potrafią skutecznie wychwycić dzięki kontekstowemu rozumowaniu kodu.
Skąd wiadomo, że to robota AI?
Odpowiedź na to pytanie wcale nie okazała się aż tak skomplikowana, jak można się tego spodziewać. Okazało się, że skrypt w Pythonie zawierał liczne edukacyjne komentarze dokumentacyjne, w tym halucynowany wynik CVSS, a jego struktura odpowiadała podręcznikowemu formatowi charakterystycznemu dla danych treningowych modeli językowych. To właśnie te cechy wzbudziły podejrzenia badaczy GTIG. Google wyklucza, że do stworzenia exploita wykorzystano Gemini.
Atak powstrzymany zanim narobił szkód
Przestępcy planowali wykorzystać lukę w operacji masowego ataku, jednak proaktywne wykrycie przez Google pomogło temu zapobiec. Firma odpowiedzialnie ujawniła podatność producentowi oprogramowania, który zdążył ją załatać.
To nie odosobniony przypadek. Grupy powiązane m.in. z Chinami i Koreą Północną aktywnie korzystają z modeli AI do odkrywania podatności i tworzenia exploitów. Rosyjscy aktorzy z kolei używają AI do generowania kodu-przykrywki, zaciemniającego działanie złośliwego oprogramowania, takiego jak CANFAIL i LONGSTREAM. Osobno udokumentowano rosyjską operację „Overload” — kampanię dezinformacyjną, w której AI klonowało głosy dziennikarzy do nagrań promujących narrację antyukraińską.
Przestępcy zbudowali infrastrukturę do masowego, anonimowego dostępu do komercyjnych modeli AI — przez zautomatyzowane tworzenie kont, przekaźniki proxy i systemy rotacji kont, żeby omijać limity użytkowania i blokady dostawców. John Hultquist, główny analityk GTIG, nie owijał w bawełnę: „Dowody są. Era aktywnego wykorzystania AI przez przeciwników nadeszła. To prawdopodobnie wierzchołek góry lodowej.”
Źródło: cnbc, bleeping computer, GTIG
Dodaj komentarz