Na Reddicie wybuchła fala krytyki — tym razem wywołana eksperymentem naukowym przeprowadzonym bez wiedzy i zgody użytkowników oraz właścicieli portalu. Badacze z Uniwersytetu w Zurychu uruchomili serię anonimowych kont sterowanych przez AI, które przez kilka miesięcy brały udział w dyskusjach na forum r/changemyview. Celem eksperymentu było sprawdzenie, czy chatboty mogą skuteczniej niż ludzie przekonywać innych do zmiany poglądów. Efekt? Oburzenie społeczności, potępienie ze strony moderatorów, reakcja środowiska akademickiego i zapowiedź pozwu ze strony Reddita.
Chatboty w przebraniu
W ramach badania opublikowano ponad 1500 komentarzy z 34 fałszywych kont, za których treści odpowiadały duże modele językowe (LLM). Wypowiedzi były personalizowane – dopasowywano je do domniemanych cech rozmówców, takich jak płeć, wiek, pochodzenie etniczne czy poglądy polityczne, bazując na ich wcześniejszej aktywności. Szczególne oburzenie wzbudziły boty udające m.in. czarnoskórego przeciwnika ruchu Black Lives Matter, doradcę ds. przemocy domowej czy ofiarę gwałtu.
Efektywność botów oceniano poprzez redditowy system „delt”, czyli wyróżnień przyznawanych za argumenty, które faktycznie zmieniły czyjś pogląd. Okazało się, że komentarze wygenerowane przez AI były od trzech do sześciu razy skuteczniejsze niż wypowiedzi użytkowników.
Brak zgody, naruszenie zasad
Choć projekt uzyskał aprobatę uczelnianej komisji etyki, nie uwzględniono w nim jawnej zgody uczestników. Informację o eksperymencie moderatorzy subreddita otrzymali dopiero po jego zakończeniu, gdy badacze przekazali im roboczą wersję wyników.
Zespół moderatorów r/changemyview jednoznacznie potępił działania naukowców, podkreślając, że były one nieautoryzowane, naruszały regulamin społeczności i opierały się na manipulacji bez zgody użytkowników. W oświadczeniu stwierdzono, że gdyby badacze wcześniej wystąpili o zgodę — zostaliby odprawieni z kwitkiem.
Eksperci biją na alarm
Informacje o badaniu natychmiast wywołały stanowczą reakcję środowiska akademickiego. Casey Fiesler, specjalistka od etyki badań internetowych z Uniwersytetu Colorado Boulder, przypomniała, że uczestnictwo w eksperymencie wymaga świadomej zgody. Jej zdaniem działania badaczy z Zurychu mogły zaszkodzić zaufaniu społecznemu do środowiska naukowego i przypominają znane z przeszłości kontrowersje — jak badanie Facebooka, w którym bez wiedzy użytkowników manipulowano treściami, by sprawdzić wpływ na emocje.
Chaz Arnett, profesor prawa z Uniwersytetu Maryland, ostro skrytykował podszywanie się botów pod członków grup marginalizowanych i pokrzywdzonych, nazywając to formą „cyfrowego blackface’u”. Amy Bruckman z Georgia Tech określiła ten eksperyment jako „najpoważniejsze naruszenie etyki badań internetowych, jakie kiedykolwiek widziała”.
Również Sacha Altay, badacz dezinformacji z Uniwersytetu w Zurychu, dostrzegł poważne niedociągnięcia metodologiczne. Wskazywał na fakt, że znaczna część komentarzy AI została usunięta z platformy, co osłabia wiarygodność wyników. Dodatkowo używano kilku różnych modeli językowych, co — jego zdaniem — zaburza spójność badania.
Reddit mówi dość
Głos w sprawie zabrał również Reddit. Główny radca prawny serwisu, Ben Lee, nazwał działania badaczy „głęboko niewłaściwymi na poziomie moralnym i prawnym” i zapowiedział skierowanie sprawy na drogę prawną. Firma potwierdziła, że konta używane w eksperymencie zostały zbanowane, a zespół ds. integralności platformy rozpoczął przegląd zabezpieczeń przed podobnymi nadużyciami w przyszłości.
Moderatorzy r/changemyview opublikowali szczegółowy post informujący społeczność o eksperymencie. Zawarto w nim listę kont używanych przez badaczy, opis naruszeń zasad oraz wezwanie do Uniwersytetu w Zurychu o oficjalne przeprosiny i powstrzymanie się od publikacji wyników.
Reakcja uczelni: ostrzeżenie, ale zgoda na publikację?
Uniwersytet w Zurychu odpowiedział, że badanie było przedmiotem wewnętrznego postępowania i jeden z badaczy otrzymał formalne ostrzeżenie. Zapowiedziano też zaostrzenie kryteriów przeglądu etycznego dla przyszłych badań z udziałem społeczności internetowych. Początkowo uczelnia nie wykluczała publikacji wyników, twierdząc, że ryzyko było minimalne, a wnioski mają wartość poznawczą.
Ostatecznie jednak, pod rosnącą presją opinii publicznej i głosów krytyki z kręgów akademickich, zespół badawczy zdecydował się zrezygnować z publikacji. Informację tę potwierdził Uniwersytet w Zurychu w komunikacie z końca kwietnia, zaznaczając jednocześnie, że nie dopatrzył się „istotnej szkody” wyrządzonej uczestnikom badania.
Granice eksperymentowania z AI
Afera wokół eksperymentu z Zurychu pokazuje, że badania nad AI muszą być prowadzone z wyjątkową ostrożnością, szczególnie w środowiskach publicznych. Potencjał sztucznej inteligencji w analizie ludzkich zachowań jest ogromny, ale bez odpowiednich zabezpieczeń i jasnych zasad etycznych łatwo przekroczyć granicę — i przekształcić narzędzie poznawcze w narzędzie manipulacji.
W czasach, gdy AI coraz częściej współtworzy cyfrową rzeczywistość, pytania o etyczne granice badań z jej udziałem są bardziej aktualne niż kiedykolwiek. A odpowiedzialność za ich przestrzeganie spoczywa nie tylko na naukowcach, ale również na instytucjach, które takie eksperymenty zatwierdzają.
Z drugiej strony warto zapytać: co tak naprawdę najbardziej oburzyło użytkowników i moderatorów Reddita? Czy chodziło wyłącznie o naruszenie zasad etyki badawczej, czy może o uświadomienie sobie, jak skutecznie AI potrafi wpływać na opinie w przestrzeni publicznej? Niezależnie od odpowiedzi, ten eksperyment na długo pozostanie symbolem przekroczonych granic — zarówno technologicznych, jak i społecznych.
źródła: reddit.com, livescience.com, science.org
Dodaj komentarz