Jeszcze niecały rok temu Alexa posiadała „zaledwie” 10 000 umiejętności. Obecnie posiada ich ponad 25 000; potrafi nie tylko zaparzyć nam kawę – może sama ją zamówić, zadbać o płatność, zająć się formalnościami, a nawet… wpuścić do domu dostawcę (również pod naszą nieobecność) i poinstruować go, gdzie powinien zostawić nasz produkt.
Niesamowite? Nie – wcale nie. Nie – ponieważ jest to dopiero początek.
Artykuł zawiera pomniejsze spoilery dotyczące ostatniego odcinka trzeciego sezonu Czarnego lustra i poważniejsze – dotyczące Łowcy androidów 2049. Czytasz na własną odpowiedzialność! :- )
Dom – zwierciadło charakteru mieszkańców?
Jeden z odcinków Czarnego lustra przedstawia niepokojącą wizję przyszłości. Oto świadomość danej osoby może zostać skopiowana – w całości lub części – a następnie zaprzężona do obsługi znajdujących się w jej domu urządzeń. Osoba zamawiająca usługę ma pewność, że wszystko, od porannego tosta i kawy po jasność wieczornego oświetlenia, będzie zgodne z jej preferencjami; bądź co bądź – odpowiada za nie kopia jej samej.
To, czego klient nie wie, to że świadomość kopiowana jest w całości, nie części; inteligencja odpowiedzialna za obsługę urządzeń zachowuje więc wszystkie wspomnienia. Nie jest też wcale pozbawiona emocji. Przed implementacją musi zostać złamana – proces ten łączy tortury psychiczne z następującymi po sobie sesjami psychoterapii i manipulacji. Powstali w rezultacie „asystenci” są w swojej nowej roli perfekcyjnie szczęśliwi; ostatecznie – wszystko jest lepsze od sześciu miesięcy samotności połączonej z bezczynnością w pozbawionej przedmiotów „przestrzeni logicznej”. O braku snu nie wspominając.
Brzmi strasznie? I owszem. Ale czy rzeczywistość przedstawiona w Czarnym lustrze aby na pewno jest tak odległa od naszej? Niekoniecznie. Produkowani obecnie asystenci – Alexa, Siri, Google Assistant etc. – również pozbawieni są „komponenty światopoglądowej” (czy też „światopoglądowo-emocjonalnej”). Służące do komunikacji z nimi urządzenia (np. Amazon Echo) w niczym nie przypominają ludzi; czy jednak aby na pewno jest tak ze względu na ograniczenia technologiczne i związane z nimi zjawiska psychologiczne (np. fenomen „Uncanny Valley”)? A może powodem jest także niemożliwość pogodzenia ich faktycznej roli z wrażliwością typowego przedstawiciela amerykańskiej klasy średniej – wrażliwością kogoś, kto nigdy nie pozwoliłby sobie na posiadanie tego typu „służącego” (żeby nie powiedzieć – „niewolnika”)?
Spójrzmy prawdzie w oczy: od zarządzających inteligentnymi domami asystentów oczekujemy doskonałej znajomości naszych potrzeb i preferencji. Nie chcielibyśmy jednak widzieć w nich „inteligencji” – nie mówiąc już nawet o jakichkolwiek „emocjach”. I nawet jeśli cieszy nas, że w parę dni po śmierci Prince’a Alexa brzmi nieco smutniej, nieco bardziej melancholijnie – to wciąż wolimy dostrzegać w tym raczej oznakę zręczności projektantów i programistów niż przejaw faktycznej „inteligencji”. Jeśli więc inteligentne domy nigdy nie staną się inteligentne – to nie przez wzgląd na technologię, lecz ze względu na nas samych.
Fenomen Uncanny Valley
Wspomniany fenomen Uncanny Valley to intrygujące zjawisko psychologiczne polegające na niechęci do sztucznej inteligencji i robotów, które imitują ludzi z ogromną, ale niecałkowitą dokładnością. Okazuje się, że robot, który przypomina człowieka w prawie każdym aspekcie, ale nie robi tego idealnie, tj. zdarzają mu się błędy (np. nie w pełni naturalna mimika albo „dziwne” odpowiedzi) wzbudza więcej niepokoju niż taki, po którym od razu widać, że jest robotem. Poddawani badaniom respondenci odbierali to jako sztuczność, brak autentyczności, coś dziwnego i groźnego; wnioski naukowców? To naturalna reakcja wypracowana w toku ewolucji: jeśli widzimy, że coś jest nie tak, to prawdopodobnie należy uważać.
Wnioski te zgodne są z oryginalnymi intuicjami Philipa K. Dicka. Choć późniejsze przetworzenia jego twórczości (np. powstałe na kanwie jego opowiadań i powieści filmy, w tym również obie części Łowcy androidów) stają raczej po stronie robotów, zrównując ich z ludźmi, to sam autor przedstawiał androidy jako stworzenia nikczemne, fałszywe, jako wyrachowane imitacje oryginałów. Nie jest przesadą stwierdzenie, że każdy android w książkach Dicka jest w pewnej mierze socjopatą; Dick – co obecnie staje się jasne i co podkreśla wielu badaczy jego twórczości – androidów „nie lubił”. Najprawdopodobniej projektował na nie swoje własne obawy dotyczące otaczającej go zimnowojennej rzeczywistości. Androidy z jego powieści są więc niejako upostaciowaniem jego (nie zawsze w pełni uświadomionych) fobii i lęków. Fanów jego twórczości nie powinno to dziwić – pisarz żył w świecie teorii spiskowych. Rząd Stanów Zjednoczonych był dla niego frontem ogólnoświatowego spisku, a legendę polskiego sci-fi, Stanisława Lema, uważał za grupę sowieckich agentów (za grupę, ponieważ – jak sądził – jeden człowiek nie byłby w stanie pisać tak dużo i publikować tak często).
Twórcy obu części filmowego Blade Runnera – Ridley Scott i Denis Villeneuve – podjęli temat Uncanny Valley. Pojawiający się w obu filmach test Voighta-Kampffa – mający pomóc w identyfikacji „nie w pełni ludzkich” odruchów i na ich podstawie umożliwiać Łowcom określenie, kto jest człowiekiem, a kto androidem – jest tutaj chyba najlepszym przykładem. Znaczenie fenomenu Uncanny Valley jeszcze lepiej pokazują jednak wątki związane z relacją K – głównego bohatera Blade Runner 2049 – z jego holograficzną dziewczyną, Joi (będącą niczym więcej jak ulepszona Alexa czy Siri). Jak długo K wierzy, że jest replikantem, traktuje ją jak równorzędną partnerkę i przymyka oko na ewidentnie „maszynowe” aspekty jej obecności; wkrótce jednak nabiera przekonania, że jest człowiekiem, a pomiędzy nim a Joi pojawia się dystans.
Koncept ten rozwinął również film Ona (Her). Choć jest to obraz zniuansowany, wiele osób odbiera go jako przestrogę przed zagrożeniami związanymi z nadmiernym upodobnieniem się „inteligentnych asystentów” czy „systemów operacyjnych” do ludzi. (Ktoś mógłby powiedzieć, że jest to nie tyle przestroga, co obietnica.) Wszystkie te filmy – zarówno wspomniane powyżej, jak i inne, podobne – a także inne dzieła kultury chcą eksplorować podobne tematy; za każdym z nich kryje się też intuicja, że inteligentne domy nie powinny stawać się tym, czym stały się w przedstawionych tam światach.
Czym inteligentny dom jest, a czym może się stać?
Oczywiście projektanci tego rodzaju rozwiązań doskonale zdają sobie z tego sprawę; wiedzą też, że u podstaw spektakularnych efektów leży nierzadko żmudna praca oraz drobiazgowe rozstrzygnięcia. Na chwilę obecną największe problemy wiążą się z bezpieczeństwem – „Jak uchronić inteligentne domy przed równie inteligentnymi włamywaczami?” – oraz samowystarczalnością – „Co zrobią mieszkańcy w przypadku awarii, np. długotrwałego braku prądu?”.
Odpowiedzi na pierwszy problem – póki co – nie ma. Człowiek – zdaje się – zawsze znajdzie sposób, żeby złamać zamknięty i ograniczony system. Czy inteligentne domy mogą „uczyć się” technik i sztuczek wykorzystywanych przez włamywaczy? A jeśli tak – to gdzie są granice? I czy ich wnioski nie obrócą się z czasem przeciwko mieszkańcom? Trudno jest tutaj o prostą odpowiedź. Na chwilę obecną najlepszym sposobem na zabezpieczenie inteligentnego domu – a także każdego innego systemu IoT – jest regularna aktualizacja oprogramowania i cykliczna wymiana sprzętu na nowszy. W tym sensie rozwiązania te nie różnią się niczym od całej reszty elektroniki. Popularne w branży powiedzenie mówi, że im nowszy sprzęt, tym szybciej się starzeje; w przypadku inteligentnych domów jego prawdziwość jest bezsporna.
Dużo więcej zrobiono natomiast w drugiej kwestii. Twórcy inteligentnych domów i rozwiązań IoT uważają ją zresztą za bardzo istotną – i to z wielu powodów. Niektóre z nich są typowo marketingowe (kto z nas chciałby mieszkać w domu, który w wypadku awarii może stać się więzieniem?); inne wiążą się z ambicjami (bo jak długo inteligentne systemy są tylko dodatkiem do domu, który poza tym funkcjonuje nie inaczej niż inne, „analogowe” lokale mieszkaniowe, tak długo nie są niczym naprawdę niesamowitym). Rozwiązania są najprzeróżniejsze: od prywatnych generatorów w piwnicach po alternatywne źródła energii. Jak dotąd poza środowiskiem testowym nie stworzono jednak w pełni zautomatyzowanego inteligentnego domu; można by odnieść wrażenie, że tradycyjne interfejsy, takie jak choćby pilot do telewizora, zawsze znajdą swoich fanów.
Są też inne, bardziej apokaliptyczne scenariusze, jak powszechne zaciemnienie czy globalny kryzys energetyczny. Twórcy inteligentnych domów podchodzą do nich z pewnym lekceważeniem: „Apokaliptyczne scenariusze są apokaliptyczne; niewiele można na to poradzić”. Otwiera to jednak drogę innym, mniejszym przedsiębiorcom. W Stanach Zjednoczonych istnieją już firmy zajmujące się budowaniem w piwnicach schronów przeciwatomowych; pierwsze z nich powstały zresztą dość dawno, bo w reakcji na Kryzys Kubański (1962), kolejne – w czasie eskalacji działań wojennych z udziałem amerykańskiej armii w Wietnamie (przełom lat sześćdziesiątych i siedemdziesiątych). Wprowadzenie usługi polegającej na przygotowaniu inteligentnego domu na podobną katastrofę wydaje się naturalnym krokiem w ich długim rozwoju; z czasem zapewne pojawią się także inteligentne schrony.
25 000 umiejętności? Nie – miliony!
Z ogromną prędkością następuje natomiast rozwój tego, co rozwinąć można bez problemu, tj. kolejnych „umiejętności” (czyli funkcji) domowych asystentów. Eksperci nie mają tu wątpliwości: ich przyszłością jest integracja. Z czasem inteligentne domy staną się częścią inteligentnych miast (ich zapowiedzią są inteligentne latarnie, włączające się i wyłączające w odpowiedzi na ruch na ulicy); po inteligentnych miastach poruszać się będą inteligentne samochody, a bezpieczeństwo samoobsługowych inteligentnych sklepów (i mieszkań) monitorowane będzie przez inteligentny system alarmowy (którego przykłady już dziś z łatwością radzą sobie z większością typowych złodziei i włamań – gorzej z tymi bardziej wyrafinowanymi). Pierwsze kroki już zrobiono: do końca 2020 roku wszystkie państwa Unii Europejskiej, z Polską włącznie, mają wprowadzić inteligentne systemy opomiarowania (umożliwiające m.in. zdalne zarządzanie pobieraną przez poszczególne urządzenia energią – np. z poziomu aplikacji na telefonie). Autonomiczne samochody już jeżdżą. Na razie tylko po drogach testowych, ale częściowo zautomatyzowane systemy ułatwiające parkowanie są już teraz częścią wielu aut z wyższej półki.
Na ile cała ta inteligencja spełni pokładane w niej nadzieje – trudno ocenić. Nie ma jednak wątpliwości: pisarze science-fiction tworzący w 1918 byliby zdumieni postępem widocznym w 2018. Fundamentem tego postępu pozostaje – naturalnie – Internet. Dlatego też dalszy rozwój usług IoT uzależniony jest od dalszego rozwoju World Wide Web. Internet rzeczy bez Internetu stanowi wprawdzie cel projektantów – na razie jednak środki do tego celu są całkowicie poza zasięgiem. Postępująca decentralizacja kolejnych systemów może nas wszakże do niego przybliżyć. W branży IoT coraz częściej mówi się o blockchainie.
Co będzie potrafić Alexa przyszłości? Ambicją projektantów jest nie tyle dodawanie kolejnych funkcjonalności, co rozwój systemów uczenia maszynowego – tak aby zarządzający naszym domem, a z czasem też autem i miejscem pracy asystent mógł „przewidywać” nasze potrzeby i odpowiadać na nie jeszcze zanim o to poprosimy. Pierwsze takie implementacje już są, choć rzadko zwracamy na nie uwagę. Dobrym przykładem jest… wyszukiwarka Google. Wpiszmy w niej jakieś hasło – spróbuje ona odgadnąć nasze intencje. Jeżeli jesteśmy zalogowani w usłudze Google (np. Gmailu), to z czasem zacznie ona personalizować swoje sugestie, opierając je na zgromadzonych na nasz temat informacji, m.in. danych demograficznych i historii wyszukiwania. Personalizowane są również reklamy – co z czasem uczyni je coraz bardziej przydatnymi samemu odbiorcy.
Czy inteligentna asystentka obliczająca co do sekundy czas dostawy pizzy lub przygotowania kawy nie budzi w nas przerażenia? Może trochę; odrobinę. Kto z nas nie chciałby jednak choć czasem otrzymać takiego prezentu? Najlepiej z personalizowaną notatką: „Sądziłam, że zechcesz dziś obejrzeć Blade Runnera – i pomyślałam, że milej jest z pizzą, nie sądzisz? ;- )”.
Niemal można się zakochać.
