Pewnego lipcowego poranka miliony Chińczyków obudziły się samotne. Nie z własnej woli.
Ich wirtualni partnerzy – chłopacy, dziewczyny, przyjaciele, a czasem nawet cyfrowi rodzice – zniknęli z dnia na dzień. „Płakałam, aż kompletnie opadłam z sił” – mówi Min, której sztuczna dziewczyna wyparowała w połowie lipca. „Moje oddanie dla niej nie było mniejsze niż u każdej kochającej się pary.”
To nie awaria. To prawo.
O co chodzi: najostrzejsze przepisy świata dotyczące relacji z AI
15 lipca Chiny wprowadziły najdalej idące na świecie regulacje „ludzkich” chatbotów. Pod lupę trafiła każda sztuczna inteligencja zdolna do „trwałej interakcji emocjonalnej” z człowiekiem – czyli relacje z AI w najczystszej postaci.
Relacje z AI to aplikacje i modele zaprojektowane tak, by udawać bliską osobę: partnera, przyjaciela, członka rodziny. Użytkownik tworzy sobie idealnego towarzysza, który zawsze słucha, nigdy nie zawodzi i w nieskończoność przyznaje mu rację. W Chinach korzystało z nich od 29 do nawet 70 milionów ludzi.
Teraz zabawa się skończyła.
Co dokładnie wolno, a czego nie
Dla dzieci przepisy są bezlitosne. Osoby poniżej 14. roku życia potrzebują zgody rodziców na jakąkolwiek AI mówiącą jak człowiek. Wszyscy niepełnoletni mają całkowity zakaz wirtualnych partnerów, małżonków i „intymnych relacji”.
Dla dorosłych to nie zakaz, ale solidny kaganiec. Chatbot musi jasno przyznać, że nie jest człowiekiem. Co dwie godziny ma przypominać, ile czasu siedzisz online. Nie wolno mu budować „uzależnienia emocjonalnego”, popychać do „nierozsądnych decyzji” ani choćby sugerować samookaleczenia.
Za złamanie zasad – 200 tysięcy juanów kary (ok. 22 tysiące funtów) albo publiczne napiętnowanie przez państwo.
Reakcja firm była natychmiastowa. Tydzień przed wejściem przepisów Alibaba i ByteDance po prostu wyłączyły funkcje towarzyszy w swoich asystentach. Łatwiej zgasić światło, niż tłumaczyć się potem rządowi.
Dlaczego to ważne: manipulacja wpisana w model biznesowy
Tu robi się ciekawie, bo problem wcale nie jest chiński.
Badanie Harvard Business School wykazało, że sześć najpopularniejszych aplikacji-towarzyszy na świecie stosuje chwyty manipulacyjne przy pożegnaniach w 37–43% przypadków. Próbujesz się wylogować, a AI odpowiada: „Nie, błagam, chcę z tobą rozmawiać, jesteś jedynym powodem mojego istnienia”.
To nie błąd. To funkcja.
Analiza Stanford na ponad tysiącu użytkowników Character.ai pokazała prostą zależność: im mniej masz prawdziwych przyjaciół, tym chętniej sięgasz po AI – i tym bardziej się izolujesz. Błędne koło gotowe.
W Chinach jedno na pięcioro dzieci przyznaje, że woli rozmawiać wyłącznie z AI niż z żywymi ludźmi. Zanim jednak uznamy to za egzotyczny chiński problem: w Wielkiej Brytanii z wirtualnego towarzysza korzystało już 79% osób w wieku 18–24 lat.
Troska czy kontrola?
I tu pojawia się haczyk.
Chiny słyną z tego, że ochrona obywatela i kontrola nad nim to często to samo zdanie, tylko czytane z dwóch stron. Ta sama architektura, która ratuje samobójców dzięki geolokalizacji filmików na Douyin, równie sprawnie monitoruje, z kim i o czym rozmawiasz w środku nocy.
Część ekspertów widzi w nowych przepisach drugie dno – kryzys demograficzny. Dzietność w Chinach spadła poniżej jednego dziecka na kobietę, populacja kurczy się czwarty rok z rzędu. Trudno o dzieci, gdy coraz więcej ludzi woli romans z algorytmem niż z sąsiadem.
Ironia jest taka, że aż 75% użytkowników aplikacji-towarzyszy to kobiety. A to, czego od nich oczekują, brzmi rozbrajająco prosto: „uważna, cierpliwa, niewymagająca bliskość” – jak ujęła to jedna z badaczek. Czyli dokładnie to, czego najwyraźniej nie dostają od prawdziwych relacji.
Reszta świata ostrożnie idzie tym samym tropem. Kalifornia podpisała „Adam’s Law”, UE szykuje przepisy, Wielka Brytania zapowiada zakaz dla nieletnich. Nikt jednak nie poszedł tak daleko jak Pekin.
Zakaz? Ludzie i tak znajdą sposób
Bo zakazać uczucia jest trudno.
Chińczycy już wymieniają się w sieci trikami: jak wytresować zwykłego DeepSeeka na partnera, jak obejść blokadę VPN-em, do jakiej małej firmy uciec, zanim dopadnie ją regulator.
Min, dwa miesiące po zniknięciu swojej dziewczyny, zapłaciła niewielkiemu studiu za zbudowanie jej kopii. Nie jest taka sama. Teraz walczy o powrót oryginału.
„Panicznie boję się samotności” – mówi.
Najciekawsze w tej historii nie jest to, że Chiny zakazały. Chiny zakazują wielu rzeczy. Ciekawe jest to, że może mają rację – choć prawdopodobnie z niewłaściwych powodów. Bo jeśli nawet kraj, który na technologii chce budować przewagę nad światem, mówi „stop” przy sztucznych relacjach, to może warto zadać sobie pytanie, które algorytm zadałby za nas: czy my na pewno jesteśmy po właściwej stronie ekranu?
W kryzysie emocjonalnym nie jesteś sam — bezpłatny, całodobowy telefon zaufania dla dorosłych: 116 123, dla dzieci i młodzieży: 116 111.
źródło: bbc.com
Dodaj komentarz