Jeżeli tego newsa skróciłbym do stwierdzenia, że „AI kazało AI”, to nie byłoby w zasadzie zbyt duże uproszczenie. Nowe doniesienia firmy SentinelOne ujawniają, że bot AkiraBot wykorzystał model językowy OpenAI GPT-4o-mini do generowania i rozsyłania spamu SEO na ogromną skalę. Cyberprzestępcy za pomocą tego narzędzia zaatakowali co najmniej 80 000 stron internetowych, głównie należących do małych i średnich firm korzystających z popularnych platform e-commerce, takich jak Shopify, GoDaddy, Wix.com i Squarespace.
AkiraBot to narzędzie oparte na języku Python i jak można się domyślić – korzysta z dobrodziejstw uczenia maszynowego. Zostało stworzone z myślą o automatyzacji masowego wysyłania wiadomości, w ten sposób zasypując kanały komunikacji spamem. Zgodnie z ustaleniami 404 Media, AkiraBot wysyłał do API OpenAI prosty prompt w stylu: „Jesteś pomocnym asystentem, który tworzy komunikaty marketingowe”. Na tej podstawie sztuczna inteligencja generowała zindywidualizowane komentarze promujące fałszywe usługi SEO. Treści były dostosowywane do konkretnej branży, aby wyglądały wiarygodnie i unikały automatycznego wykrycia – inny komunikat trafiał np. do firmy budowlanej, a inny do salonu fryzjerskiego.
Śmieciowe wiadomości były publikowane w formularzach kontaktowych, czatach na żywo oraz innych interaktywnych elementach witryn. Jak podkreśla SentinelOne, część tych wpisów została zindeksowana przez wyszukiwarki, co jeszcze bardziej zwiększyło ich zasięg. Działanie AkiraBota nie ograniczało się jednak tylko do wykorzystania GPT-4o-mini. Bot używał również serwisów proxy oraz narzędzi omijających zabezpieczenia Capchta, co świadczy o jego zaawansowanym charakterze.
OpenAI potwierdziło, że zablokowało klucz API wykorzystywany przez AkiraBota i prowadzi dalsze działania mające na celu eliminację nadużyć. Firma zapewnia, że stale udoskonala swoje mechanizmy wykrywania nieautoryzowanego użycia AI. Nie zmienia to jednak faktu, że był to kolejny przypadek nadużycia modeli językowych do celów przestępczych. Wcześniej wykryto m.in. WormGPT – narzędzie AI wykorzystywane do automatyzacji oszustw podszywających się pod banki.
Źródło: pcmag, sentinelone
fot. tytułowe: Photo by Markus Spiske on Unsplash
Dodaj komentarz