Teorie i przewidywania dotyczące technologicznej osobliwości
Wizja technologicznej osobliwości od lat rozpala wyobraźnię naukowców, futurologów, inżynierów i pisarzy science fiction. W zależności od tego, kogo zapytamy, odpowiedzi rozciągają się od „to już za chwilę” po „nigdy”. Różnią się nie tylko przewidywania co do daty, ale i sam obraz tego, czym osobliwość w ogóle miałaby być. Jedni widzą w niej błyskawiczny wybuch superinteligencji, inni — dekady stopniowych przemian, w których człowiek i maszyna coraz mocniej się przenikają. Jeszcze inni wątpią, czy w ogóle dojdzie do tak radykalnej zmiany.
Kiedy miałaby nadejść?
Pierwsze szacunki były zaskakująco konkretne. Vernor Vinge — matematyk, informatyk i pisarz, który spopularyzował pojęcie technologicznej osobliwości w latach 90. — twierdził, że superinteligencja powstanie między rokiem 2025 a 2030. To była prognoza, która w momencie publikacji brzmiała jak science fiction, a dziś, gdy mamy rok 2025, wypada niemal „teraz”. Vinge nie bazował jednak na wróżeniu z fusów. Jego zdaniem wystarczy, by powstała AI na poziomie człowieka, zdolna samodzielnie się ulepszać, a lawina postępu stanie się nieunikniona.
Ray Kurzweil, jeden z najbardziej rozpoznawalnych futurologów naszych czasów, wybrał datę 2045. Jego argumenty opierają się na tzw. prawie przyspieszających zwrotów — obserwacji, że tempo rozwoju technologii jest wykładnicze. Kurzweil porównuje to do wzrostu mocy obliczeniowej komputerów, który przez dekady niemal dokładnie podwajał się co dwa lata (prawo Moore’a). Jego zdaniem w połowie XXI wieku osiągniemy punkt, w którym maszyny będą przewyższać ludzi we wszystkich istotnych aspektach — od szybkości myślenia po kreatywność. Co ważne, w 2022 roku, po niemal dwóch dekadach od ogłoszenia tej prognozy, Kurzweil publicznie podtrzymał ją, twierdząc, że nic fundamentalnego jej nie podważyło.
Niektórzy byli jeszcze bardziej optymistyczni — lub, w zależności od punktu widzenia, naiwni. Eliezer Yudkowsky, badacz bezpieczeństwa AI i jeden z głośniejszych zwolenników teorii „intelligence explosion”, w latach 90. spekulował, że osobliwość może nadejść już około 2020–2021 roku. Jeszcze wcześniej, w 1988 roku, pionier robotyki Hans Moravec przewidywał, że maszyny osiągną poziom ludzkiej inteligencji przed 2010 rokiem. Rzeczywistość zweryfikowała te szacunki — choć AI jest dziś imponująca, to inteligencji porównywalnej z ludzką jeszcze nie osiągnęła.
Próby „uśrednienia” przewidywań też dają ciekawy obraz. W ankiecie przeprowadzonej w latach 2012–2013 wśród setek badaczy AI mediana odpowiedzi wskazywała połowę XXI wieku — lata 2040–2050 — jako najbardziej prawdopodobny horyzont osiągnięcia AI na poziomie ludzkim. Ale rozrzut był ogromny: część respondentów mówiła o jednej–dwóch dekadach, inni o stuleciach, a spora grupa uznała, że do osobliwości nigdy nie dojdzie. Można więc powiedzieć, że „konsensusu” w tej sprawie nie ma — są jedynie obozy optymistów, realistów i sceptyków.
Jak może wyglądać osobliwość?
Najbardziej klasyczny obraz to tzw. eksplozja inteligencji (intelligence explosion), koncepcja zaproponowana przez matematyka I.J. Gooda już w 1965 roku. Według niej wystarczy, by powstała AI o poziomie zbliżonym do ludzkiego, która będzie w stanie ulepszać własne algorytmy. Takie „samodoskonalenie” działałoby jak kula śnieżna: im inteligentniejszy system, tym szybciej potrafiłby zaprojektować jeszcze inteligentniejszego następcę. W efekcie w krótkim czasie — licząc w godzinach, a może minutach — mogłoby dojść do skoku od ludzkiej inteligencji do czegoś, co przekracza nasze pojmowanie o lata świetlne.
Yudkowsky często przytaczał ten scenariusz, ostrzegając, że w chwili wybuchu inteligencji ludzie mogą stracić kontrolę nad kierunkiem rozwoju technologii. Jego zdaniem takiego bytu nie zatrzymają żadne zabezpieczenia, firewalle ani szyfry — w cyfrowym świecie byłby on uosobieniem omnipotencji, a konsekwencje tego musiałyby prędzej czy później przełożyć się także na rzeczywistość fizyczną.
Nie wszyscy zgadzają się z wizją nagłego „big bangu” umysłów.
Inna szkoła myślenia zakłada tzw. miękkie wejście (soft takeoff). W tym scenariuszu zmiany są szybkie, ale rozciągnięte w czasie na lata lub dekady. Ludzie mają czas, by adaptować się do nowych warunków, a ewolucja ku superinteligencji odbywa się bardziej na zasadzie stopniowej integracji człowieka z technologią. To podejście jest bliskie transhumanizmowi — ruchowi, który postuluje m.in. użycie implantów, interfejsów mózg–komputer i modyfikacji genetycznych, by rozszerzyć możliwości człowieka. Ekonomista Robin Hanson w swojej książce „Age of Em” rozważał nawet scenariusz, w którym ludzkie mózgi zostają w pełni zdigitalizowane i uruchomione jako oprogramowanie. Takie „emulacje umysłu” mogłyby poprzedzać powstanie czysto maszynowej superinteligencji.
Wiele teorii różnicuje też ścieżki dojścia do osobliwości. Klasyczny wariant „hard AI” zakłada, że to maszyny są motorem zmian, a ludzie pełnią rolę biernych obserwatorów lub — w najlepszym wypadku — pomocników.
Alternatywą jest koncepcja IA (Intelligence Amplification), w której to człowiek, wspierany przez coraz doskonalsze systemy, sam staje się superinteligentny. Może to oznaczać zarówno masowe korzystanie z asystentów AI, jak i głęboką integrację biologii z technologią.
Jest też wizja „splotu technologii” — właśnie tu wchodzi Ray Kurzweil ze swoją teorią zbiegu trendów. W jego ujęciu osobliwość nie będzie efektem wyłącznie AI, ale kumulacji kilku rewolucji: sztucznej inteligencji, biotechnologii, nanotechnologii i neurotechnologii. AI może pomóc w projektowaniu leków i terapii genowych, nanotechnologia — w tworzeniu precyzyjnych narzędzi do modyfikacji materii, a neurotechnologie — w łączeniu mózgu z maszynami.
Razem te technologie stworzą zupełnie nowy ekosystem, w którym pojęcie „człowiek” i „maszyna” straci wyraźną granicę.
A co na to sceptycy?
Dla równowagi warto dodać, że nie wszyscy eksperci wierzą w nadejście osobliwości — przynajmniej w przewidywalnej przyszłości. Część argumentów opiera się na fizycznych i ekonomicznych ograniczeniach.
Gordon Moore, twórca słynnego prawa dotyczącego wzrostu mocy obliczeniowej, wielokrotnie podkreślał, że żaden wykładniczy trend nie trwa wiecznie. W przyrodzie i technologii często obserwujemy tzw. krzywe S: początkowo rozwój jest gwałtowny, ale z czasem spowalnia, aż osiąga plateau. Można to zobaczyć na przykładzie lotnictwa: od pierwszego lotu braci Wright do odrzutowców pasażerskich minęło kilkadziesiąt lat, ale od tamtej pory tempo innowacji w transporcie powietrznym znacznie wyhamowało.
Inny typ sceptycyzmu dotyczy natury samej inteligencji. Filozof John Searle, autor słynnego „argumentu chińskiego pokoju”, twierdzi, że nawet system, który perfekcyjnie symuluje inteligentne zachowanie, wcale nie musi nic rozumieć. Może po prostu manipulować symbolami według z góry określonych reguł, nie posiadając świadomości ani intencji. Skoro sami wciąż nie potrafimy w pełni wyjaśnić, czym jest ludzka świadomość, dlaczego mielibyśmy wierzyć, że da się ją ot tak odtworzyć w bitach albo kwantowych kubitach?
Są też twarde bariery praktyczne. Trening największych modeli AI pochłania dziś ogromne ilości energii i surowców. Wymaga wyspecjalizowanych układów, które trudno skalować w nieskończoność. Jeśli utrzymanie superinteligencji będzie wymagało np. mocy całych elektrowni jądrowych, może się okazać, że dalszy rozwój będzie ograniczony przez koszty ekonomiczne, polityczne lub środowiskowe.
Do tego dochodzą czynniki społeczne. Istnieje koncepcja „paradoksu technologicznego”, według której sama automatyzacja może zahamować dalszy postęp. Jeśli AI spowoduje masowe bezrobocie i kryzysy gospodarcze, może pojawić się presja polityczna, by ograniczyć jej rozwój. W skrajnym przypadku społeczeństwa mogłyby powiedzieć „stop” nie dlatego, że osiągnęliśmy techniczne granice, ale dlatego, że konsekwencje społeczne stały się zbyt trudne do opanowania.
Spektrum prognoz — od euforii po rezerwę
Patrząc na te wszystkie głosy, trudno znaleźć wspólny mianownik. Zwolennicy „twardej” osobliwości widzą w niej punkt bez odwrotu, po którym inteligencja maszyn rośnie lawinowo. Entuzjaści „miękkiego” scenariusza wierzą, że będziemy mieli czas na adaptację. Kurzweil i jemu podobni stawiają na zbieżność kilku rewolucji technologicznych, które wspólnie zmienią oblicze świata. Sceptycy — od inżynierów po filozofów — przypominają, że historia technologii zna wiele „nieuchronnych” prognoz, które się nie spełniły.
Być może kluczowe pytanie nie brzmi „czy osobliwość nadejdzie?”, ale „jeśli nadejdzie, czy będziemy na nią gotowi?”. Bo choć nie ma zgody co do daty, formy ani prawdopodobieństwa, jedno wydaje się pewne: tempo zmian technologicznych już dziś jest tak szybkie, że jeszcze nigdy w historii tak wielu ludzi nie musiało tak szybko uczyć się żyć w tak nowym świecie.
- Wstęp
- Historia idei technologicznej osobliwości
- Teorie i przewidywania dotyczące technologicznej osobliwości
- Która technologia doprowadzi do osobliwości? AI, AGI czy komputery kwantowe?
- Potencjalne skutki technologicznej osobliwości
- Emergentne zachowania i samodoskonalenie współczesnych AI (LLM)
- Niepokojące i nieoczekiwane przypadki działania AI – kronika z ostatnich lat
- Technologiczna osobliwość w kulturze popularnej – od Skynetu do Żniwiarzy
- Czy stoimy u progu osobliwości technologicznej?
Dodaj komentarz