Technologia w literaturze. Pisarze pytają o odpowiedzialność nauki

Thomas Pynchon i koniec „dwóch kultur”

W 1984 roku Thomas Pynchon opublikował na łamach New York Timesa, esej Czy wypada być luddystą?. Punktem wyjścia tego tekstu był wykład C.P. Snowa sprzed ćwierć wieku. Snow mówił o „dwóch kulturach” – literackiej i naukowej – które według niego w ogóle się nie rozumiały. Pynchon odpowiedział, że dziś nikt nie mógłby już postawić takiej granicy. Dawniej specjaliści mogli chować się za swoim żargonem i nikt nie wiedział, o czym mówią. Dziś to już nie działa, bo wiedza jest wszędzie.

Ned Ludd i mitologia technologiczna

Pynchon przywołuje postać Neda Ludda – rzemieślnika, który w 1779 roku zniszczył dwie maszyny dziewiarskie. Nie z nienawiści do technologii, ale z poczucia niesprawiedliwości. Luddysta w tym sensie nie jest wrogiem postępu, tylko kimś, kto pyta o cenę. I właśnie dlatego w obliczu zbieżności sztucznej inteligencji, biotechnologii i robotyki – zdaniem Pynchona – potrzebujemy mitologii technologicznej. Potrzebujemy opowieści, które pozwalają zrozumieć, co robimy. Bo inżynierowie i korporacje dostarczają nam maszyny, ale nie dostarczają historii, które pomogłyby zadać proste pytanie: czy tego właśnie chcieliśmy?

Technologia w literaturze: prorocza teza

Pynchon sformułował przy tym tezę, która dziś brzmi jak proroctwo:

„Jeśli nasz świat przetrwa, następnym wielkim wyzwaniem – słyszycie to tutaj pierwsi – będzie zbieżność krzywych badań i rozwoju sztucznej inteligencji, biologii molekularnej i robotyki. Będzie niesamowicie i nieprzewidywalnie. Nawet najwięksi z wielkich – daj Boże – zostaną zaskoczeni.”

Pynchon od razu wskazał, gdzie literatura już to przewidziała. Wymienił Frankensteina – powieść, która ostrzega przed tym, co się dzieje, gdy technologia wymyka się spod kontroli. I dodał, że jeśli istnieje jakiś gatunek powieści luddystowskiej, to Frankenstein jest jego pierwszą i najlepszą reprezentacją. Bo nie chodzi w nim o potwora, tylko o twórcę, który ucieka przed odpowiedzialnością.

Frankenstein: twórca, który uciekł

Mary Shelley opublikowała Frankensteina w 1818 roku, mając dwadzieścia lat. I nie chodziło jej o przewidzenie sztucznej inteligencji. Chodziło o coś prostszego i bardziej przerażającego. Victor Frankenstein tworzy istotę, a potem ją porzuca. Nie pyta, co się z nią dzieje, nie chce wiedzieć, ucieka. A gdy jego dzieło zaczyna zabijać, udaje zdziwionego. W tym właśnie momencie literatura zadaje pytanie, na które nauka długo nie chciała odpowiadać: czy twórca ponosi odpowiedzialność za to, co stworzył, nawet jeśli nie przewidział konsekwencji?

Dziś to pytanie wraca ze zdwojoną siłą. Sztuczna inteligencja podejmuje decyzje o tym, kto dostanie pożyczkę czy pracę, a kto nie. Algorytmy kształtują to, co widzimy w internecie. Biotechnologia ingeruje w granice człowieczeństwa. Wszystko to są dzieła naszych rąk, ale kto za nie odpowiada? Inżynierowie, którzy napisali kod? Koncerny, które go wdrożyły? Każdy z nas, kto wciska „zgadzam się” na regulaminy, których nigdy nie przeczytał?

Nauka pyta: jak to zrobić? Literatura pyta: czy powinieneś? To drugie pytanie jest tym bardziej niewygodne, im skuteczniejsze stają się odpowiedzi na to pierwsze.

Saul Bellow: gdy nauka staje się ideologią

Noblista Saul Bellow w Planecie pana Sammlera, wydanej w 1970 roku, pokazał, do czego prowadzi nauka, gdy przestaje być narzędziem, a staje się ideologią. Jego bohater, Artur Sammler, ocalały z Zagłady, porusza się po Nowym Jorku jak antropolog w obcej cywilizacji. Ta cywilizacja mówi językiem psychologii behawioralnej, socjologii i biologii ewolucyjnej. Tym językiem opisuje miłość, zbrodnię, wolność i godność. Sammler słucha wykładu, podczas którego ktoś określa człowieka jako „błąd w łańcuchu reprodukcji” – i czuje, że coś w nim umiera.

W świecie Sammlera nikt nie pyta, czy redukcja człowieka do biologicznego mechanizmu jest etycznie dopuszczalna. Pyta się tylko, czy jest prawdziwa. Bellow nie każe wybierać między nauką a humanistyką – każe zobaczyć, że żadna nauka nie zwalnia z odpowiedzialności za to, kim się jest.

Stanisław Lem: nauka, która nie chce wiedzieć

Stanisław Lem, który znał i cenił tę powieść Bellowa, poszedł dalej. W Głosie Pana z 1968 roku opisuje grupę naukowców, którzy odbierają tajemniczy sygnał z kosmosu. Sygnał może być dowodem na istnienie obcej inteligencji, ale może też być tylko śladem po czymś, co dawno wygasło. Naukowcy za wszelką cenę próbują udowodnić, że to kontakt.

Lem pokazuje coś, o czym rzadko mówi się wprost: jak bardzo nauka potrafi naginać fakty do własnych teorii, zamiast przyznać się do niewiedzy. To nie jest krytyka nauki jako takiej – to krytyka jej instytucjonalnej próżności, potrzeby udowodnienia swojej racji za wszelką cenę. Lem nie pisał science fiction jako ucieczki od rzeczywistości. Pisał powieści, które wskazywały na odpowiedzialność za to, co nauka już wtedy robiła, tyle że jeszcze nie chciała nazwać tego po imieniu.

Cormac McCarthy: ciężar Projektu Manhattan

Cormac McCarthy przez dziesięciolecia bywał w Instytucie Santa Fe, gdzie spotykał się z fizykami i matematykami. Słuchał rozmów ludzi, którzy – jak Robert Oppenheimer – mierzyli się z tym, co zbudowali. W swoich ostatnich powieściach, Pasażerze i Stelli Maris, wrócił do tego świata. Głównym bohaterem Pasażera jest Bobby Western, który dźwiga dziedzictwo ojca – fizyka nuklearnego, który pracował w Los Alamos w zespole, który stworzył pierwszą bombę atomową. Emocjonalnym ośrodkiem powieści jest jednak jego siostra, Alicia. Matematyczna geniuszka, która leży w szpitalu psychiatrycznym. W pytaniach, które stawia, pobrzmiewa wątpliwość: czy to, że możemy coś policzyć, oznacza, że powinniśmy to policzyć?

Czy sama umiejętność matematycznego opisu świata zwalnia nas z myślenia o tym, co robimy z tą wiedzą? To pytanie zadawało sobie w Los Alamos w 1945 roku zaledwie kilka osób. McCarthy sprawia, że staje się ono naszym wspólnym dziedzictwem.

Pytania, przed którymi nie wolno uciekać

U każdego z tych pisarzy nauka przekracza pewną granicę, tworzy coś, czego nie potrafi kontrolować, a potem ucieka. Frankenstein ucieka od swojej istoty. Inżynierowie z Projektu Manhattan chowali się za biurokracją, za formułką „nie wiedziałem”. Programiści sztucznej inteligencji uciekają dziś w algorytmy, których sami już do końca nie rozumieją. A Lem dodaje: nauka ucieka też w samą siebie – w modele, w założenia, w przekonanie, że skoro coś da się opisać matematycznie, to znaczy, że to już Prawda.

Technologia w literaturze nie jest wydzielonym problemem, przeznaczonym dla gatunku science fiction. Jest wciąż tym samym pytaniem, które literatura zadaje nauce od dwóch stuleci. Nie chodzi o to, żeby zastąpić laboratoria bibliotekami. Chodzi o to, żeby przypominać, że istnieją pytania, przed którymi nie wolno uciekać. Że za każdym wynalazkiem stoi człowiek, który powinien zapytać: czy powinienem? I że to pytanie nie znika w chwili, gdy wynalazek opuszcza laboratorium.

Przeczytaj także: AI jest jak genialne dziecko. Ale jednej rzeczy jej brakuje