Co tam w biurach Meta? – zapytacie. A, po staremu! Firma po raz kolejny znalazła się na językach za sprawą dyskusji o prywatności. Według relacji pracowników zajmujących się analizą danych, nagrania z inteligentnych okularów tworzonych we współpracy z Ray-Ban mogą trafiać do ludzkich recenzentów. Materiał wideo z funkcji „live AI” bywa przy tym znacznie bardziej osobisty, niż użytkownicy mogliby przypuszczać…
Inteligentne okulary i trening algorytmów
Inteligentne okulary Meta wyposażone są w kamerę i mikrofon, a ich kluczową funkcją jest korzystanie z Meta AI. Po jej aktywacji urządzenie m.in. analizuje obraz i dźwięk w czasie rzeczywistym, pozwalając użytkownikowi zadawać pytania dotyczące otoczenia lub wykonywanych czynności. Technologia ta opiera się na algorytmach rozpoznawania obrazu i dźwięku, czyli na systemach z dziedziny Computer Vision. Aby działały skutecznie, wymagają ogromnych zbiorów danych treningowych.
Wiecie już do czego zmierzam, prawda? To nie jest Wasz pierwszy news dotyczący przestrzegania zasad poufności przez Meta.
W praktyce oznacza to, że fragmenty nagrań wykonanych przez okulary są przesyłane do systemów Meta i wykorzystywane do dalszego rozwijania algorytmów. Każda klatka wideo oraz fragment dźwięku może zostać oznaczony przez specjalistów zajmujących się tzw. etykietowaniem danych.
Rola ludzi w szkoleniu sztucznej inteligencji
Proces ten, określany jako data labeling, polega na analizie materiałów przez ludzi i przypisywaniu im odpowiednich opisów lub kategorii. Dzięki temu algorytmy uczą się rozpoznawać obiekty, sytuacje i kontekst. No niby wszystko fajnie, co nie? Uczymy sztuczną inteligencję, żeby lepiej służyła ludzkości. Tyle tylko, że według relacji pracowników zatrudnionych przez firmę Sama – przedsiębiorstwo specjalizujące się w analizie danych z siedzibą w Nairobi, stolicy Kenii – część tej pracy polega na oglądaniu nagrań wykonanych przez użytkowników okularów Meta.
Pracownicy twierdzą, że analizują materiał wideo z funkcji Meta AI, aby poprawić działanie systemu rzeczywistości rozszerzonej. W praktyce oznacza to oglądanie wielu godzin nagrań zarejestrowanych z perspektywy osoby noszącej okulary. No i tu zaczyna się cały ambaras.
Nagrania bardziej osobiste, niż można się spodziewać
Z relacji cytowanych przez szwedzkie gazety wynika, że analizowane materiały nie zawsze mają neutralny charakter. Pracownicy mieli natrafiać na nagrania przedstawiające… bardzo prywatne, a wręcz intymne sytuacje.
Wśród przykładów wymieniane są sceny z łazienek (tak, takie o jakich pomyśleliście też), momenty przebierania się czy nagrania o charakterze intymnym – przedstawiające również stosunki seksualne. Nawet jeśli materiał nie zawiera drastycznych treści, może ujawniać wrażliwe szczegóły życia prywatnego użytkowników.
W nagraniach pojawiają się także elementy takie jak karty płatnicze widoczne w kadrze, wnętrza mieszkań i domów czy prywatne rozmowy rejestrowane przez mikrofon zintegrowany z inteligentnymi okularami.
Według relacji pracowników niektóre nagrania zawierały również rozmowy dotyczące protestów, potencjalnych przestępstw lub bardzo osobistych kwestii życiowych.
Co mówią zasady Meta
No dobrze, można krytykować Metę, kiwać paluszkiem i mówić „Oj, jak brzydko!”. Ale gdyby na to spojrzeć z drugiej strony, to… czy Meta jest tu w pełni winna?
Firma podkreśla, że możliwość analizy nagrań została opisana w dokumentach regulujących korzystanie z usług AI. W warunkach korzystania z systemu zaznaczono, że interakcje z asystentem mogą być przetwarzane zarówno przez automatyczne systemy, jak i przez ludzkich recenzentów (Punkt 2, podpunkt C).
Użytkownicy są także ostrzegani, aby nie udostępniać w takich interakcjach wrażliwych danych. Tyle tylko, że korzystając z Meta AI… po prostu patrzysz na rzeczy, widzisz je. Spoglądasz na różne rzeczy, jak to zwykle robi się oczami, również tymi wyposażonymi w okulary.
Według relacji pracowników zajmujących się analizą nagrań wielu użytkowników noszących okulary nie zdawało sobie jednak sprawy z możliwości przeglądania materiału przez ludzi. Czyli w skrócie – kupili budzący kontrowersje gadżet od firmy mającej na swoim koncie liczne afery i dotyczące łamania zasad prywatności, nie przeczytali warunków korzystania z ich funkcji, a teraz są zdziwieni, a nawet oburzeni…
Meta zwraca też uwagę, że ich inteligentne okulary wyposażone są w diodę LED informującą o nagrywaniu wideo. Ma ona sygnalizować osobom znajdującym się w pobliżu, że kamera jest aktywna.
Tylko… co z tego? Jeżeli ktoś ma je na nosie z włączoną funkcją „live AI” i jednocześnie z kimś rozmawia, to ta osoba i tak jest nagrana. Czy coś to zmienia w kontekście prywatności? No niewiele. Poza tym eksperci od prywatności wskazują jednak, że rozwiązanie to ma ograniczoną skuteczność. W przeszłości badacze pokazali, że w niektórych przypadkach możliwe jest wyłączenie takiego migającego sygnalizatora.
Nowe pytania dla regulatorów
Wraz z popularyzacją inteligentnych okularów pojawia się coraz więcej pytań dotyczących przejrzystości i ochrony prywatności. Jednym z kluczowych problemów jest to, czy informacje ukryte w regulaminach usług można uznać za realne poinformowanie użytkowników o sposobie wykorzystania danych.
Dla osób zajmujących się szkoleniem systemów sztucznej inteligencji odpowiedź na to pytanie wydaje się już dziś dość oczywista. W wielu przypadkach materiał trafiający do analizy pokazuje bowiem znacznie więcej z życia użytkowników, niż ci mogli zakładać. Trzeba też pamiętać, że człowiek swoim wzrokiem często skupia się na jednej rzeczy i może nie być po prostu świadomym, że w jego polu widzenia znalazł się jakiś „wrażliwy”” obiekt, prywatny, a wręcz intymny. A kamerka widziała…
Źródło: techsport, svenska dagbladet, SAN, meta
Dodaj komentarz