Nowe badanie przeprowadzone przez Microsoft rzuca światło na rosnące zagrożenie dezinformacją wizualną w erze generatywnej sztucznej inteligencji. Uzyskane wyniki potwierdzają to, co wielu już wiedziało „na chłopski rozum”: ludzki umysł i oko nie zawsze potrafią skutecznie rozpoznać różnicę między prawdziwym zdjęciem a realistyczną grafiką stworzoną przez AI. Średnia skuteczność uczestników testu wyniosła zaledwie 63%.
W badaniu wzięło udział 12 500 osób z całego świata, które przeanalizowały łącznie 287 000 obrazów. Testy przeprowadzono w ramach quizu online dostępnego na stronie realornotquiz.com, gdzie uczestnicy musieli ocenić, które z 15 losowo dobranych obrazów są prawdziwe, a które wygenerowane przez sztuczną inteligencję. Okazało się, że największą skuteczność użytkownicy osiągali w przypadku zdjęć przedstawiających ludzi i tutaj udało się uzyskać 65% poprawnych odpowiedzi. Najbardziej mylące okazały się jednak tzw. deepfake’i tworzone przez sieci GAN (Generative Adversarial Networks), które przedstawiały jedynie profil twarzy lub łączyły fragmenty prawdziwych zdjęć z elementami stworzonymi przez AI (tzw. inpainting). Te obrazy oszukały aż 55% uczestników.
Microsoft zwraca uwagę, że właśnie ta technika – mimo że stosunkowo stara i niedoskonała – wciąż jest bardzo skuteczna. Powodem może być podobieństwo do niskiej jakości fotografii, co sprawia, że obrazy wyglądają bardziej autentycznie niż wygładzone, hiperrealistyczne wizualizacje typowe dla nowoczesnych generatorów obrazów.
Wśród wykorzystywanych modeli znalazł się m.in. Flux Pro AI, który potrafił wygenerować obrazy imitujące amatorską fotografię ze smartfona, z realistycznym poziomem szumów i nasycenia światła. Co ciekawe, najniższy wskaźnik rozpoznawalności dotyczył jednak… prawdziwych zdjęć. Trzy fotografie, które zaledwie 12–18% uczestników uznało za autentyczne, przedstawiały amerykańskich żołnierzy w nietypowym oświetleniu i kolorystyce.
Microsoft ostrzega, że rozwój narzędzi do generowania obrazów oraz wiedza o tym, jakie elementy czynią je bardziej przekonującymi, mogą być w przyszłości wykorzystywane do szerzenia dezinformacji i to na masową skalę. Firma podkreśla jednocześnie znaczenie odpowiedniego oznaczania grafik tworzonych przez AI oraz konieczność edukowania użytkowników w zakresie analizy treści wizualnych.
Pełen raport z badań znajdziecie pod tym linkiem.
Źródło: techspot, microsoft
Dodaj komentarz