Choć może się wydawać, że sztuczna inteligencja to bezstronny i logiczny system oparty na danych, najnowsze badania pokazują coś zupełnie innego. ChatGPT, popularny chatbot oparty na sztucznej inteligencji, w wielu sytuacjach myśli… jak człowiek. I niestety – nie zawsze jest to komplement.
Zespół naukowców z Kanady i Australii przeanalizował zachowanie modeli GPT-3.5 i GPT-4, czyli dwóch wersji dużych modeli językowych (LLM) opracowanych przez OpenAI. Testy polegały na sprawdzeniu, czy sztuczna inteligencja ulega tym samym błędom poznawczym co ludzie. Wyniki? Aż w połowie przypadków ChatGPT popełniał identyczne błędy, jakie obserwujemy u ludzi podczas podejmowania decyzji.
Eksperyment: testy na błędach poznawczych
Badanie opublikowano w kwietniu w czasopiśmie Manufacturing & Service Operations Management. Naukowcy sprawdzali reakcje ChatGPT w kontekście dobrze udokumentowanych zjawisk psychologicznych, takich jak:
- Efekt gorącej ręki – błędne przekonanie, że sukcesy zwiększają szansę kolejnych sukcesów (np. w grze).
- Nadmierna pewność siebie – przecenianie własnych możliwości czy wiedzy.
- Awersja do niejednoznaczności – unikanie sytuacji, w których brakuje jasnych danych.
- Błąd koniunkcji – myślenie, że dwa zdarzenia jednoczesne są bardziej prawdopodobne niż jedno z nich samodzielnie.
Podczas testów modele były pytane zarówno o klasyczne scenariusze psychologiczne, jak i o symulacje biznesowe: decyzje w logistyce, zarządzaniu zapasami, czy negocjacjach z dostawcami. Co ważne, wyniki nie zależały od kontekstu – niezależnie od formy pytania, AI często wykazywała te same błędy, co sugeruje, że nie chodziło o zapamiętane schematy, lecz o sposób „rozumowania”.
Błędy poznawcze to zniekształcenia w myśleniu, które prowadzą do nieracjonalnych decyzji. U ludzi powstają one zwykle na skutek ograniczonego czasu, dostępnych informacji lub emocji. Przykład: inwestor trzyma akcje, które tracą na wartości, bo już dużo na nie wydał (tzw. „efekt utopionych kosztów”).
GPT-4 mądrzejszy, ale nie wolny od uprzedzeń
Nowszy model GPT-4 rzeczywiście radził sobie lepiej z zadaniami matematycznymi i logicznymi niż jego poprzednik, GPT-3.5. Kiedy odpowiedź była jednoznaczna i oparta na wzorze – AI nie zawodziła. Problem pojawiał się w bardziej „ludzkich” kontekstach, gdzie odpowiedzi opierały się na intuicji, preferencjach lub strategii.
– Kiedy decyzja ma jednoznacznie poprawne rozwiązanie, AI radzi sobie świetnie – lepiej niż większość ludzi – podkreśla prof. Anton Ovchinnikov z Queen’s University. – Ale tam, gdzie potrzebna jest ocena sytuacji, może wpaść w te same pułapki co człowiek.
Niepokojącym odkryciem było to, że GPT-4 czasem wręcz wzmacniał niektóre błędy – na przykład zawsze udzielał odpowiedzi zgodnych z efektem potwierdzenia (czyli wybierał informacje, które potwierdzały założenia z pytania). W niektórych testach, jak tzw. efekt gorącej ręki, GPT-4 wypadł nawet gorzej niż GPT-3.5.
Efekt potwierdzenia to skłonność do szukania, zapamiętywania i interpretowania informacji w sposób, który potwierdza nasze wcześniejsze przekonania – ignorując fakty, które im przeczą.
Dlaczego sztuczna inteligencja myśli jak człowiek?
Zdaniem naukowców przyczyną jest sposób, w jaki AI uczy się świata – na podstawie ogromnych zbiorów tekstów pisanych przez ludzi. A skoro my myślimy w sposób nie do końca racjonalny, to i modele uczone na naszych wypowiedziach przejmują nasze błędy. Dodatkowo, w procesie tzw. fine-tuningu (czyli dopracowywania modelu na podstawie ocenianych odpowiedzi), faworyzowane są odpowiedzi „brzmiące sensownie” – nawet jeśli są nieracjonalne.
– Jeśli zależy nam na dokładnym i bezstronnym wsparciu decyzyjnym, należy używać AI tam, gdzie już dzisiaj ufamy kalkulatorom – zauważa dr Yang Chen, główny autor badania i profesor na Western University. – W sytuacjach wymagających subiektywnej oceny lub strategii potrzebna jest ludzka kontrola.
Uwaga: AI to nie bezstronny arbiter
Badacze są zgodni: sztuczna inteligencja powinna być traktowana jak pracownik – taki, który może podejmować istotne decyzje, ale wymaga nadzoru i etycznych ram działania.
– W przeciwnym razie zamiast poprawiać nasze błędy, zautomatyzujemy ich powielanie – ostrzega prof. Meena Andiappan z McMaster University.
Głos w tej sprawie zabrał także Daryl Lim, ekspert ds. prawa technologicznego z Penn State Dickinson Law, który podkreślił wagę etyki i przejrzystości:
– AI to nie tylko kod – to system norm, który wpływa na ludzkie zachowania i decyzje. Szczególnie tam, gdzie występują nierówności władzy – jak sądy czy systemy zdrowia – nadzór etyczny jest kluczowy.
„Etyczny nadzór” nad AI to zbiór zasad i procedur, które mają zapobiegać nadużyciom – np. programowanie zgodne z prawami człowieka, regularne audyty działania algorytmów, publiczne raporty z testów w obszarach o dużym wpływie społecznym (np. edukacja, prawo, zdrowie).
Wnioski: z AI trzeba ostrożnie
Choć sztuczna inteligencja może być nieocenionym narzędziem – szczególnie tam, gdzie liczy się precyzja i szybkość – nie wolno zapominać, że jej decyzje nie są wolne od ludzkich błędów. W miarę jak AI staje się coraz bardziej złożona i „ludzka”, potrzeba kontroli rośnie.
– Ewolucja od GPT-3.5 do GPT-4 pokazuje, że nowe modele są bardziej ludzkie w niektórych aspektach, ale bardziej precyzyjne w innych – podsumowuje prof. Tracy Jenkin z Queen’s University. – To oznacza, że menedżerowie muszą stale oceniać, które modele sprawdzą się w ich firmie i jak często należy je aktualizować. Niektóre przypadki użycia będą wymagały dodatkowego dostrojenia modelu.
Na razie warto pamiętać: AI nie zastąpi zdrowego rozsądku – ale może być jego sprzymierzeńcem, jeśli dobrze ją zaprogramujemy.
źródła: thedebrief.org, livescience.com
Dodaj komentarz