Pozwolę sobie na stwierdzenie, że chyba większość z nas na myśl o systemach rozpoznawania twarzy, czy to w Internecie, czy w ulicy, czuje jakiś taki wewnętrzny niepokój. W końcu nasz wizerunek to nasza wizytówka, a nasza twarz jest wyjątkowa i chcemy żeby wiązała się mimo wszystko z prywatnością.

Jednak firmy pracujące nad systemami rozpoznawania twarzy, jakby to delikatnie ująć, nierzadko mają to tam gdzie kamerka nie dogląda i argumenty w stylu zagrożenia dla prywatności na niewiele się zdają. Przykładem niech będzie firma Clearview AI, która wykorzystywała bazę zdjęć ludzkich twarzy z Twittera, Facebooka oraz YouTube w celu trenowania swojej sztucznej inteligencji w rozpoznawaniu twarzy właśnie. Chyba nie muszę mówić, że nikt nie zapytał o zgodę na wykorzystanie zdjęć ich właścicieli? O ilu fotografiach mówimy? 3 miliardach.

Wydaje się jednak, że naukowcy z Uniwersytetu w Chicago znaleźli sposób na ochronę swojego wizerunku przed wścibskimi AI. I tak powstał Fawkes – aplikacja, która ma uniemożliwić sztucznej inteligencji rozpoznanie twarzy ze wrzuconej do Sieci fotografii. Fawkes dokonuje w fotografiach zmian na poziomie pikseli, przez co są one praktycznie niewidoczne dla ludzkiego oka, ale są w stanie skutecznie zmylić mechanizmy uczenia maszynowego. Ten „płaszcz” z pikseli ponoć jest w stanie w 100% ochronić przed mechanizmami rozpoznawania twarzy Clearview AI, Microsoft Azure, Face++. Fawkes potrafił też zakryć twarz przed systemami Facebooka, Amazonu czy Megvii.

 

 

Zapał studentów i naukowców z chicagowskiej uczelni studzi nie kto inny, jak CEO Clearview AI – Hoan Ton-That. Według niego, Fawkes nie działa na jego algorytmy rozpoznawania twarzy, a poza tym – jest już niemal za późno na udoskonalenie i wdrożenie takiej technologii na masową skalę. Powód jest prosty – w Internecie jest po prostu tyle dostępnych zdjęć, że Fawkes w żaden sposób nie zakłóci uczenia się algorytmów.

Na chwilę obecną wydaje się, że walka o prywatność osób publikujących zdjęcia w Internecie jest na straconej pozycji, chociaż aplikację Fawkes pobrano już ponad 100 tys. razy. Biorąc jednak pod uwagę, że na portalach społecznościowych dziennie publikuje się miliardy zdjęć, liczba ta w żaden sposób nie może być brana na poważnie. Chyba że któryś z potentatów social-mediów, np. Facebook, wprowadzi takie rozwiązanie jako narzędzie do ochrony prywatności swoich użytkowników. W końcu Mark Zuckerberg i jego świta jak mantrę powtarzają frazę, że bezpieczeństwo i prywatność użytkowników Facebooka zawsze jest na pierwszym miejscu.

Dla bardziej zainteresowanych tematem:

 

 

Źródło: cs.chicago.edu, theverge, techspot