To, co napisze Claude, wkrótce może nosić niewidzialny znak.
Anthropic zapowiedział, że zacznie umieszczać znak wodny w tekstach generowanych przez swój model. Zapomnij jednak o widocznej adnotacji czy dopisku „wygenerowano przez AI”. Chodzi o coś znacznie subtelniejszego – model ma delikatnie sterować wyborem niektórych słów, tak żeby w gotowym tekście został ukryty ślad. Dla ciebie niewidoczny. Dla odpowiedniego narzędzia – czytelny jak podpis.
O co chodzi ze znakiem wodnym Claude
Znak wodny w tekście AI to niewidoczny wzorzec ukryty w samym doborze słów. Nie zmienia sensu ani wyglądu odpowiedzi – jest tak wpleciony w tekst, że człowiek go nie wychwyci, ale specjalny system potrafi rozpoznać, że dany fragment napisała sztuczna inteligencja.
Powód całej operacji jest prozaiczny: unijne przepisy. Anthropic wprowadza znakowanie w odpowiedzi na AI Act – regulację, która wymaga, by treści tworzone przez AI dało się jako takie zidentyfikować.
Innymi słowy: to nie kaprys firmy, tylko obowiązek.
Jak Claude ukrywa znak w tekście
Mechanizm opiera się na rozwiązaniu SynthID-Text od Google DeepMind. Brzmi technicznie, ale zasada jest zaskakująco prosta.
Claude pisze słowo po słowie i przy każdym kolejnym oblicza, które pasuje najlepiej. Czasem odpowiedź jest tylko jedna – przy faktach, datach czy wyniku działania matematycznego nie ma miejsca na dowolność. Ale bywają momenty, gdy kilka słów pasuje niemal tak samo dobrze. I to właśnie tam wkracza znak wodny.
Anthropic podaje prosty przykład. Model opisuje pogodę: „Będzie…”. Ma do wyboru „szaro” (30% pewności) i „pochmurno” (28%). Sens praktycznie ten sam, więc model może zostać delikatnie popchnięty w stronę jednego z nich. I ten wybór, powtórzony w całym tekście, tworzy niewidoczny wzór.
Krytyczne fragmenty zostają nietknięte. Kod się nie zmieni – komentarze do niego już tak.
Czy odbije się to na jakości tekstu
Tu pada najważniejsze zapewnienie Anthropic: nie.
Firma twierdzi wprost, że „dla czytelnika odpowiedź ze znakiem wodnym jest nie do odróżnienia od tej bez niego”. Testy miały pokazać brak wpływu znakowania na treść, poziom kreatywności i czytelność. Ślad przetrwa też kopiuj-wklej i drobne poprawki – więc szybka edycja go nie usunie.
Na papierze wygląda to więc niewinnie.
Nie wszyscy kupują to zapewnienie
Głos sprzeciwu przyszedł od Johna Grubera z Daring Fireball. Jego zdaniem sama idea jest nie do przyjęcia.
„To niedopuszczalne, żeby narzędzie poświęcało choćby odrobinę jasności, spójności, sensu czy jakości na rzecz ukrytych wskazówek” – napisał.
W tym zarzucie jest logika. Skoro model bywa popychany ku słowu, które jest odrobinę mniej trafne, to znaczy, że ktoś świadomie oddaje kawałek jakości w zamian za ukryty podpis. Pytanie tylko, czy ta „odrobina” jest w ogóle zauważalna i czy przy tekście, który i tak nie jest doskonały, robi jakąkolwiek różnicę.
Dlaczego to ważne dla ciebie
Bo znakowanie AI przestaje być teorią, a staje się standardem.
Anthropic pracuje nad „detection API” – narzędziem, które pozwoli wykryć znak wodny w tekście. Na razie jest w budowie i nie wiadomo, kto dokładnie dostanie do niego dostęp. Ale kierunek jest jasny: świat idzie w stronę, w której treści z AI będą rozpoznawalne, nawet jeśli wyglądają jak napisane przez człowieka.
Dla jednych to gwarancja uczciwości. Dla innych – pierwszy krok do świata, w którym każdy tekst niesie ze sobą metkę pochodzenia.
źródło: pcworld.com
Dodaj komentarz