Jeszcze niedawno pisaliśmy o tym, jak działają dark patterns i na co uważać podczas zakupów online — wracamy do tematu poradnika „Nie klikaj w ciemno”. Teraz UOKiK idzie o krok dalej.
Zamiast tylko edukować, chce aktywnie wykrywać manipulacyjne mechanizmy przy pomocy sztucznej inteligencji.
Manipulacja w sieci to już nie wyjątek
Automatycznie dodane produkty do koszyka, liczniki czasu, trudne do znalezienia opcje rezygnacji czy „krzyczące” przyciski zakupu — to dokładnie te mechanizmy, które opisywaliśmy wcześniej.
Problem w tym, że one nie znikają. Wręcz przeciwnie — stają się coraz bardziej zaawansowane i trudniejsze do zauważenia.
Nie bez powodu. Opierają się na heurystykach, czyli uproszczonych schematach podejmowania decyzji. To one sprawiają, że działamy szybciej… i czasem mniej świadomie.
AI zamiast ręcznego sprawdzania
UOKiK przyznaje wprost: tradycyjne metody nadzoru nie nadążają za tempem zmian w e-commerce.
Dlatego od 2023 roku rozwijany jest projekt wykorzystania AI do wykrywania dark patterns. Jego celem jest stworzenie narzędzia, które będzie w stanie automatycznie analizować strony internetowe i wychwytywać manipulacyjne elementy.
To naturalne rozwinięcie tego, o czym była mowa w poprzednim poradniku — tylko tym razem zamiast wskazówek dla użytkowników pojawia się konkretne narzędzie dla regulatora.
Najpierw dane, potem algorytm
Żeby nauczyć AI rozpoznawać manipulację, trzeba ją najpierw dokładnie zmapować.
UOKiK przeanalizował ponad 300 stron internetowych oraz skargi konsumentów, identyfikując najczęściej stosowane dark patterns. Do tego doszła analiza kodu źródłowego 100 serwisów, które wykorzystywały tego typu mechanizmy.
To właśnie na tej podstawie powstają dane treningowe dla systemu AI.
Zakupy pod presją? To działa
To, co wcześniej opisywaliśmy jako „sztuczki sklepów”, ma bardzo realny wpływ na decyzje użytkowników.
- 53% osób przyznało, że kupiło coś pod wpływem kończącej się promocji
- 51% reaguje na komunikaty o ograniczonej dostępności
- 45% ulega licznikom czasu
W praktyce oznacza to jedno: dark patterns nie tylko istnieją — one działają.
Nawet mózg włączony do testów
Projekt nie ogranicza się do analizy stron.
UOKiK wykorzystał także narzędzia neuromarketingowe — m.in. eye tracking, analizę emocji oraz EEG — żeby sprawdzić, jak użytkownicy reagują na konkretne bodźce.
To już nie tylko analiza interfejsu, ale próba zrozumienia, co faktycznie wpływa na decyzje zakupowe.
GPT-4 w testach
W ramach projektu testowano również modele językowe, w tym GPT-4, pod kątem wykrywania dark patterns.
Efektem ma być narzędzie, które:
- analizuje układ strony
- interpretuje zachowania użytkowników
- sprawdza kod
- identyfikuje manipulacyjne wzorce
Kolejny etap to testy i wdrożenie.
Edukacja to za mało
Do tej pory wydawać się mogło, że kluczowe było to, żeby użytkownik po prostu wiedział, na co uważać.
Dziś widać, że to jednak za mało. Rynek e-commerce korzysta z coraz bardziej zaawansowanych technologii, więc również instytucje nadzorcze zaczynają sięgać po nowe narzędzia. AI ma być odpowiedzią na system, który coraz częściej próbuje wpływać na nasze decyzje, zanim zdążymy je świadomie podjąć.
I wygląda na to, że to dopiero początek tej zmiany.
źródło: uokik.gov.pl
Dodaj komentarz