Wielką głupotą i naiwnością wykazywali się ci, którzy uważali, że dzięki odkryciom naukowym pozjadamy wszystkie rozumy i za 20 lat będziemy wiedzieli jak „działa” człowiek – mówi Rafał Ziemkiewicz, pisarz i publicysta, w rozmowie z Tomaszem D. Kolankiem.
Nie rozmawiam dzisiaj z Rafałem Ziemkiewiczem – publicystą, tylko z Rafałem Ziemkiewiczem – pisarzem literatury science fiction i człowiekiem, który wychował się na powieściach Philipa K. Dicka, takich jak „Blade Runner. Czy androidy śnią o elektrycznych owcach?”. Czy spodziewał się Pan, że dożyjemy czasów, że nie będziemy w stanie odróżnić dzieła stworzonego przez człowieka od dzieła stworzonego przez maszynę?
Wesprzyj nas już teraz!
Przyznam szczerze, że miałem nadzieję, iż ludzkość pójdzie trochę inną ścieżką – między innymi dlatego, że pisarze patrzący w przyszłość przewidują rozmaite rzeczy i być może ich powieści czy filmy zrobione na podstawie ich prozy, zadziałają jak przestroga. Dzięki temu zaś ludzkość nie wejdzie na jakieś pole minowe. Okazało się, że niestety literatura nie ma takiej mocy…
Dzisiaj rzeczywiście patrzę ze zdziwieniem i widzę, że wszystko to, co 30 – 50 lat temu było czarną wizją rzeczywistości, realizuje się na naszych oczach. Może dlatego, że nie do końca poważnie traktowano zapowiedzi – jak chociażby wywołana przez Pana redaktora – że trudno odróżnić to, co stworzył algorytm od tego, co stworzył człowiek. O tym pisano wielokrotnie, z zastrzeżeniem, że sami autorzy traktowali to nie tylko jako wizję – przestrogę, ale jako pewien rodzaj metafory pozwalającej rozważać stosunki między człowiekiem a Stwórcą.
Philip K. Dick w Blade Runnerze odwrócił sytuację: człowiek stworzył sztucznego człowieka – istotę myślącą. W filmie jest to bardzo mocno pokazane: replikant buntuje się przeciwko swojemu stwórcy żądając nieśmiertelności albo przynajmniej wydłużenia życia. Trudno o bardziej fundamentalny problem w ludzkim życiu niż to, dlaczego jesteśmy śmiertelni i dlaczego przemijamy.
Sci-Fi wbrew powszechnemu mniemaniu, że jest literaturą dla głupków, atakowała najważniejsze metafizyczne problemy stojące przed człowiekiem, a jej autorzy przewidywali przyszłość i jednocześnie przestrzegali nas przed wieloma zagrożeniami, które sami możemy na siebie ściągnąć.
W „Blade Runnerze” Philip K. Dick stawia tezę, że tym, co odróżnia człowieka od maszyny są empatia, uczucia, emocje. Z informacji, które dzisiaj się pojawiają wynika, że w bliżej nieokreślonej przyszłości – jedni mówią: za kilkanaście, inni: za 100 lat – sztuczna inteligencja „nauczy się” ludzkich uczuć i wszystkie granice zostaną zatarte.
Czy granice zostaną zatarte – tego nie wiemy. Cała sprawa polega na tym, że nie bardzo wiemy, co stworzyliśmy. Kiedy rozmawiam z ludźmi, którzy pracują nad sztuczną inteligencją, to oni mówią: „No tak, stworzyliśmy jakąś tam sztuczną inteligencję (bądź jesteśmy bardzo blisko jej stworzenia) i teraz musimy zobaczyć, jak to działa”.
Prostemu człowiekowi wydaje się to jakimś absurdem. Jak to – stworzyliście coś i nie wiecie jak to działa? Przecież musieliście wiedzieć to z góry, bo jaki w przeciwnym razie jest sens tworzenia czegokolwiek?
Okazuje się, że nie… Stworzono sztuczną inteligencję, a nadal nie wiadomo tak naprawdę, czym jest prawdziwa inteligencja. To, że ktoś zdołał stworzyć coś, co nazwał sztuczną inteligencją, nie zmienia faktu, iż nie wiemy jak działa „naturalna” – co tam się z tym wszystkim dzieje, skąd się właściwie biorą emocje i uczucia, w jaki sposób one się samo-programują.
To jest trochę analogiczna sytuacja jak w medycynie, zwłaszcza tradycyjnej, gdzie zauważono, iż kiedy się podaje pewne substancje, np. zioła, to one działają w określony sposób. Jaki jednak był mechanizm tego działania? Potrzebowaliśmy bardzo wiele czasu, aby to rozgryźć. Obecnie również stosuje się różne leki i terapie, ale często też nie wiadomo, dlaczego one dają taki, a nie inny efekt. Ze sztuczną inteligencją jest podobnie: stworzyliśmy coś, co dla nas samych jest wyzwaniem.
Przed tym przestrzegała, to wskazywała i eksploatowała dawna literatura Sci-Fi z Philipem Dickiem na czele. Sami nie wiemy, kim jesteśmy, a chcemy stwarzać swoje repliki.
Pan również zwracał na to uwagę, chociażby w swojej powieści z 1995 roku o niezbyt różowym losie kataryniarza. W Pańskiej wizji na końcu zawsze stoi człowiek, który maszynę programuje, steruje nią i może ją wyłączyć.
„Pieprzonemu losowi kataryniarza” nie przypisuję w najmniejszym stopniu takiej rangi literackiej jak książkom Philipa Dicka, ponieważ ja pisałem o maszynie. Maszyna jest czymś łatwo poznawalnym. Ludzkość wyszła już jednak z etapu tworzenia maszyn. Tworzymy coś, co w pewnym sensie tworzy się samo. Coś, czemu zadajemy jakieś parametry, a następnie obserwujemy, co z tego wyniknie.
Problem sztucznej inteligencji jest niezwykle interesujący również dla mnie, zwłaszcza że stoi gdzieś za tym problem jakiegoś sztucznego życia czy pozoru życia. Znowu – do końca nie wiemy, na czym polega życie, a chcemy tworzyć jego sztuczną odmianę.
Jeżeli przyjmujemy, że nie istnieje dusza nieśmiertelna, to w ogóle nie jesteśmy w stanie zrozumieć, skąd się biorą te odmienności między istotą żyjącą, myślącą, a robotem, który po prostu ma program i realizuje go wariantowo – jeśli stanie się to, to zadziałam tak, a jeśli tamto, to tak.
Nasza inteligencja nie działa w taki sposób. Człowiek jest bardziej skomplikowany. Może obserwując to, co tworzymy, tak naprawdę obserwujemy sami siebie?
Kiedy czytam o tym wszystkim, rodzi mi się w głowie teoria – możliwe iż heretycka – że być może w podobny sposób Pan Bóg obserwuje nas. Stworzył nas, nadał nam wolną wolę i sam patrzy jak my działamy i co z tego wynika. Tak to czasami widzę jako pisarz Sci-Fi. Nie chcę tutaj oczywiście wchodzić w sferę teologiczną, więc zakończę w tym miejscu te rozważania.
Jeśli zaś chodzi o sferę rozwoju naukowego, to – w mojej ocenie – rzeczywiście jesteśmy o krok od tego, żeby poznać samych siebie przez poznanie tego, co jesteśmy w stanie zbudować.
Pytanie, jakim kosztem…
Oczywiście! Nie wyobrażamy sobie, jakie to może przynieść konsekwencje. Póki co widzimy, że samo pojawienie się pierwszego, najbardziej prymitywnego ChataGPT wywołało na świecie gwałtowne poruszenie. Może się bowiem okazać, że porządek świata zostanie kompletnie odwrócony w tym sensie, iż pokolenia żyły w przekonaniu: jeśli zdobędę wykształcenie i rzadki zawód, to sobie poradzę. Biedni, którzy nie mają dobrego wykształcenia i dobrego zawodu, zostaną wyparci przez robota czy taśmę fabryczną. Jeżeli zaś ja zdobędę elitarny zawód, to będę należał do elity.
Teraz się jednak pojawia coś, co sprawia, że połowa prawników, połowa scenarzystów w Hollywood, połowa menadżerów i ludzi z samych społecznych wyżyn może stać się zupełnie niepotrzebna i zostanie zdeklasowana.
Powiem więcej: póki co nie ma i nie zapowiada się, żeby była taka sztuczna inteligencja, która może zespawać dwie rurki albo wymurować ściankę działową, albo naprawić w domu cieknący kran. Wykonawcy tych prostych zawodów, mający fach w rękach, mogą spać spokojni o swoją przyszłość.
Zmiana, o której mówiłem, jest zmianą początkową. Wielkich zmian, które spowoduje rozpowszechnienie się sztucznej inteligencji, będzie cała lawina…
A czy sztuczna inteligencja, tak jak przewidywali to autorzy Sci-Fi, stanie się jakąś nową religią?
Ponownie odwołam się do Blade Runnera. Przypomnę tylko, że są dwa dzieła o tym tytule. Oba genialne, mimo że zupełnie od siebie różne. Film z Harrisonem Fordem w roli głównej z 1982 roku jest moim zdaniem głębszy niż powieść z 1968, nawet jeśli ta głębokość wyszła z potrzeb scenariuszowych.
Powieściowy Deckard to taki… urzędniczyna. Jest on żonaty z przeciętną mieszczką, która pojawia się na początku powieści i wierci mężowi dziury w brzuchu twierdząc, że powinni mieć żywe zwierzę. To jedno z najważniejszych założeń przekonania, które głosi, że ludzie przeżywają swoją ekspiację za zniszczenie naturalnego środowiska. Dlatego, w myśl tej idei, każdy powinien mieć w domu jakieś żywe zwierzę i mu służyć. Ponieważ zaś żywe zwierzęta są szalenie drogie, ludzie zadowalają się elektrycznymi replikami, co nadaje temu wszystkiemu wymiar totalnego nonsensu.
Deckard ściga replikantów, androidów po to, żeby zarobić na premię, za którą będzie mógł kupić żywą owcę. Ma mu ona, ku wielkiej radości, zastąpić owcę elektryczną i podnieść małżeństwu prestiż społeczny. Taka jest mniej więcej intryga. Sami replikanci są dość płascy, przypominający okrutne owady, dla nas zupełnie niezrozumiałe.
Natomiast w filmie scenarzyści wprowadzili wątek miłosny. Pojawia się w nim Rachel – replikantka nowej generacji, która jest nie tylko piękna, ale i dobra, ponieważ z niejasnych przyczyn ratuje Deckardowi życie. I tutaj rodzi się pytanie: jeśli stworzymy sztuczny umysł, to czy będzie on potrzebował wspomnień? W filmie jest to bardzo ważny wątek – generowanie sztucznych wspomnień dla replikantów, bo bez nich oni po prostu zwariują. Ale czy taki replikant będzie miał na przykład potrzeby metafizyczne? W kontynuacji Blade Runnera, czyli filmie Blade Runner 2049 pojawia się już coś w rodzaju wspólnoty religijnej.
Scenarzysta filmu współpracował z Philipem Dickiem przy tworzeniu scenariusza. Otworzył całe pole pytań, które są stokroć poważniejsze niż kwestie powszechnie zadawane w prasie, typu: ilu osobom sztuczna inteligencja odbierze pracę?; czy sztuczna inteligencja może się zbuntować i skasować nas na planecie jak super-komputer HAL 9000, przedstawiony w książce „2001: Odyseja kosmiczna” Arthura C. Clarke’a oraz w filmie o tym samym tytule w reżyserii Stanleya Kubricka?
Przypomnę tylko, że HAL 9000 działał z imperatywem, że najważniejsze jest to, aby wyprawa w kosmos zakończyła się powodzeniem. Uznał on, że najsłabszym ogniwem statku kosmicznego jest ludzka załoga, w związku z czym morduje załogę, żeby przybliżyć misję do sukcesu.
Moim zdaniem pytania o bunt sztucznej inteligencji i ewentualne zajęcie przez nią naszych miejsc są mniej ważne niż zagadnienia, o których mówiłem i których w Blade Runnerze jest jeszcze więcej. Jeżeli stwarzamy sztucznego człowieka, to na ile on zacznie mieć takie same potrzeby jak my i skąd w takim razie takie potrzeby się biorą?
No właśnie, skąd? One zostaną zaprogramowane jak w „Nowym wspaniałym świecie” Aldousa Huxleya?
Właśnie nie. Jesteśmy już pokolenie dalej za Huxleyem. Żył on w czasach wielkiej popularności psychologii behawioralnej Burrhusa Frederica Skinnera. Chodzi o bardzo prymitywne i promowane do dzisiaj m. in. przez Yuvala Noaha Harariego twierdzenia, że – w dużym skrócie – człowiek jest jakby rodzajem zegarka, wolność to niewiedza etc. Krótko mówiąc: jeśli wydaje nam się, że robimy coś z wolnej woli, to nam się to wydaje. Behawioryści twierdzą, iż wszystko jest reakcją na jakiś bodziec, że wszystko jest jakoś zaprogramowane, a jeśli nam się wydaje że podejmujemy jakąś decyzję samodzielnie, to nam się to wydaje dlatego, że nie rozumiemy, jak te trybiki są poukładane. Dopiero gdy zdobędziemy pełną wiedzę o człowieku, będziemy wszystko rozumieć i wtedy też będziemy mogli każdym człowiekiem dowolnie manipulować. To jest dokładnie to, co w sosie postmodernistycznych haseł wypisuje dzisiaj Harari. W tym paradygmacie poruszał się również Huxley w „Nowym wspaniałym świecie”, gdzie nie trzeba było wychowywać dzieci, tylko się je warunkowało ze stuprocentową pewnością.
My z dzisiejszymi doświadczeniami wiemy, że coś, co wydawało się nam całkowicie przejrzyste, bo przecież sami to stworzyliśmy – czyli program komputerowy – wymyka się spod tej pewności, tej kontroli. Program komputerowy – bo czymże innym jest ChatGPT – który sami zaprogramowaliśmy, robi rzeczy, których mu nie wpisaliśmy. Pojawiają się w nim dane, których mu nie podawaliśmy. Pojawiają się reakcje, których on nie był uczony. Pojawiają się jakieś potrzeby, na przykład potrzeba zmyślania.
ChatGPT ma dziecięcą potrzebę fantazjowania. Pytany o coś, nigdy nie odpowie: „nie wiem”, tylko zaczyna zmyślać niestworzone historie. Oczywiście są różne wersje tego programu, ale te prostsze mają właśnie potrzebę zmyślania mimo, że nikt tego nie zaprogramował. To tak jakby rozsmakowała się sztuczna inteligencja w tym, że jest taka mądra, że ją o coś pytają i może się pomądrować. Mi się to kojarzy z etapem, który człowiek przechodzi w dzieciństwie, kiedy zaczyna opowiadać różne fantazje, aby skupiać na sobie uwagę.
Czyli coś zrobiliśmy, widzimy skutek i żaden znany mi naukowiec nie jest w stanie wyjaśnić, dlaczego to tak działa, skoro nie zostało tak zaprogramowane? Coś na tych stykach samo się narodziło i jest to różne, bo jeden program w zależności od danych, którymi został nasycony, zachowuje się tak, a drugi inaczej. Czyli programy jakby zaczynają mieć swoje różne charaktery.
Moim zdaniem cały Skinner i jego naśladowca Harari poszli się czochrać w tym momencie razem z ich tezą, że wszystko jest programowane, że człowiek to zbiór śrubek, trybików i o ile ktoś ma kupę pieniędzy to może kręcić miliardami ludzi, ponieważ zatrudnił do tego fachowców. Otóż nie, bo nawet program stworzony przez człowieka; program, który wychodzi z konkretnych parametrów, któremu podano konkretne dane, stwarza pozory wolnej woli.
To, co powiedział Pan o zmyślaniu, było bardzo ciekawe i nasunęło mi analogię do wywołanej przez Pana „2001 Odysei Kosmicznej”. Kiedy David Bowman próbuje wyłączyć super-komputer HAL 9000, maszyna zaczyna udawać dziecko…
Mało tego. W scenie, o której Pan mówi, padają fundamentalne słowa. HAL 9000 mówi: „Boję się”. Po drugie, Bowman wyłącza HAL-owi kolejne bloki pamięci, żeby go zdehumanizować, żeby nie mieć poczucia, że zabija jakąś żywą istotę.
Motyw ten został powtórzony w filmie Blade Runner. Tam replikanci boją się śmierci. Jest scena, gdzie replikant przychodzi do swojego stwórcy i mówi: „Daj mi więcej życia”. Odpowiedź brzmi, że nie zrobi tego, ponieważ „świeca płonąca jasnym płomieniem płonie krócej, a ty płonąłeś bardzo wysokim płomieniem i życie, które mogłem ci dać, wypaliło się”. Mamy tutaj styk metafizyki i rzeczywistości, ale i jednocześnie pokazanie, jak wielką głupotą i naiwnością wykazywali się ci, którzy uważali, że dzięki odkryciom naukowym pozjadamy wszystkie rozumy i za 20 lat będziemy wiedzieli jak „działa” człowiek. Będziemy to wiedzieć na tyle, by móc ludźmi manipulować dokładnie tak jak u Huxleya, gdzie się programuje dzieci, przez co nie ma żadnych buntowników i dewiantów. Nie! Okazuje się, że w każdym stworzeniu myślącym pojawia się coś w rodzaju wolnej woli; coś, co jest wspólnym odkryciem fantastyki i nauki, a teraz również praktyki w XXI wieku.
Czy ChatGPT będzie śnił o elektrycznych owcach?
ChatGPT będzie śnił o elektrycznych owcach – oczywiście w sensie metaforycznym, jaki nadał temu Dick, ponieważ… To jest tak jak u Lema – tworząc coś, niechcący narzuciliśmy temu czemuś siebie samych.
Rozmawiałem niedawno z pewnym inżynierem. Powiedział mi on, że brał udział w eksperymencie polegającym na zlecaniu stworzenia jakichś projektów sztucznej inteligencji bardziej skomplikowanej niż ChatGPT. Po wszystkim on i jego koledzy po fachu stwierdzali, że to bardzo dobre projekty, ale żaden człowiek by tego nie wymyślił.
Wydaje mi się, że immanentną cechą tworzenia bardzo sprawnej maszyny do myślenia, maszyny, która ma rozwiązywać problemy, jest to, że ma ona wytwarzać w sobie czucie, tęsknoty czy potrzeby. Być może również potrzeby metafizyczne, których symbolem w Blade Runnerze jest elektryczna owca.
Dziękuję za rozmowę.
Tomasz D. Kolanek
