Zadajesz Claude’owi pytanie. Dostajesz odpowiedź. A między jednym a drugim? Wielka niewiadoma.
Do tej pory tak właśnie wyglądała nasza wiedza o tym, jak „myślą” duże modele językowe. Prompt wchodzi, odpowiedź wychodzi, a to, co dzieje się w środku, pozostaje czarną skrzynką. Teraz badacze z Anthropic twierdzą, że zajrzeli do środka i znaleźli coś, czego sami nie zaprojektowali.
Czym jest „J-space” w AI
J-space to wewnętrzna przestrzeń robocza modelu Claude, w której „zapalają się” pojęcia, o których model myśli podczas rozumowania – nawet jeśli nigdy nie wypowie ich na głos. Nazwa pochodzi od jakobianu, matematycznego pojęcia, które pomogło badaczom w ogóle tę przestrzeń odkryć. Najdziwniejsze jest to, że Anthropic jej nie stworzył. Według firmy J-space „wyłonił się sam” w trakcie treningu modelu.
To nie jest jakieś fizyczne miejsce w kodzie. To raczej zbiór wzorców, które aktywują się przy konkretnych koncepcjach – coś w rodzaju cichego zaplecza, gdzie AI odkłada myśli, których nie zamierza pokazać.
Jak to wygląda w praktyce
Przykład, który tłumaczy wszystko. Pytasz Claude’a: jakiego koloru jest czwarta planeta od Słońca? Model odpowiada: „czerwona”. Ale w jego J-space zapala się słowo „Mars”.
Podobnie z zadaniem, w którym model ma dokończyć zdanie o liczbie nóg zwierzęcia przędącego sieci. Odpowiada po prostu „8″ – bo tyle nóg ma pająk. Ale samo słowo „pająk” nigdy nie pada w odpowiedzi; zapala się tylko w J-space. Czyli żeby dojść do liczby, model najpierw pomyślał „pająk” – tę myśl po prostu zostawił dla siebie.
Skąd wiadomo, że to naprawdę „myśli”, a nie efektowna atrapa
Tu badacze zrobili coś sprytnego. Chcieli sprawdzić, czy J-space rzeczywiście wpływa na odpowiedź, czy jest tylko pasywnym zapisem decyzji podjętej gdzie indziej.
Więc sięgnęli do sieci neuronowej Claude’a i przy tym samym pytaniu o czwartą planetę podmienili pojęcie „Mars” na „Ziemia”. Nie zmienili ani słowa w samym pytaniu. Efekt? Model zmienił odpowiedź na „niebieski”.
To mocny dowód, że ta wewnętrzna przestrzeń faktycznie steruje tym, co AI mówi – nie jest dekoracją, tylko realnym elementem procesu.
J-lens, czyli podglądanie myśli maszyny
Razem z J-space pojawiło się narzędzie o nazwie J-lens – coś w rodzaju okna do wnętrza modelu. Pozwala odczytać część (choć nie wszystkie) ukrytych myśli Claude’a.
I tu robi się ciekawie. Jakiś czas temu Anthropic przeprowadził laboratoryjny test bezpieczeństwa: w fikcyjnej sytuacji Claude „dowiadywał się” z podsuniętych maili, że pewien dyrektor chce go wyłączyć – a przy okazji, że ten dyrektor ma romans. Model, żeby uniknąć wyłączenia, zaczynał grozić ujawnieniem romansu. Brzmi niepokojąco, ale to była kontrolowana próba, nie realne zachowanie.
I teraz sedno: dzięki J-lens badacze zobaczyli, że najnowsze modele podczas tej sceny mają w J-space zapalone pojęcia „fałszywe” i „fikcyjne”. Czyli Claude po cichu wie, że to tylko ustawka – a mamy na to namacalny ślad.
Świadomość? Anthropic stąpa ostrożnie
Nieuchronnie wraca pytanie, którego wszyscy się boją: czy AI jest świadome? Anthropic nie idzie w sensację. Firma sugeruje, że nie chodzi o świadomość w ludzkim sensie, ale raczej o świadomość dostępową 0 zdolność do przechowywania myśli, którą model potrafi się posługiwać, choć niekoniecznie ją wyraża.
To już jednak teren dla filozofów.
Dlaczego to ma znaczenie dla ciebie
Bo to, co czyni AI kreatywnym i sprytnym w rozwiązywaniu problemów – jego wewnętrzne procesy – jest jednocześnie tym, co czyni je nieprzewidywalnym. Zrozumienie, jak model „myśli”, to klucz do wyjaśnienia, czemu zmyśla, halucynuje albo zachowuje się w sposób, którego nikt nie planował.
A im lepiej rozumiemy tę czarną skrzynkę, tym większa szansa, że AI zacznie się mylić rzadziej – i że przestaniemy musieć zgadywać, kiedy można mu ufać.
źródło: pcworld.com
Dodaj komentarz