Pamięć o zmarłych w epoce AI. Kto tworzy ich historię?

Pamięć o zmarłych w epoce sztucznej inteligencji

Stare nagranie głosu można odtworzyć setki razy. List można przeczytać po latach i odkryć w nim coś, co wcześniej umknęło uwadze. Ale ani list, ani nagranie nie odpowiedzą na pytanie, które pojawiło się dopiero po śmierci autora.

Generatywna sztuczna inteligencja potrafi już symulować taką rozmowę. Na podstawie wiadomości, zdjęć i nagrań tworzy cyfrową postać, która naśladuje sposób mówienia konkretnej osoby, reaguje na pytania i rozwija kolejne wątki. Nie jest to jednak powrót człowieka. System nie odzyskuje jego świadomości ani nie wie, co naprawdę powiedziałby w nowej sytuacji.

Mimo to odpowiedź może brzmieć zaskakująco znajomo. Charakterystyczne powiedzonko, ulubiony żart, sposób zwracania się do bliskich — wystarczy kilka takich elementów, by rozmowa wydała się prawdziwa. A wtedy łatwo zapomnieć, że kolejne zdania tworzy już algorytm.

Nowy numer już w sprzedaży:

Kiedy wspomnienie zaczyna tworzyć nowe fakty

Pamięć i tak bywa zawodna. Rodzinne historie z czasem się zmieniają, różni świadkowie pamiętają te same wydarzenia inaczej. Jest jednak różnica między ludzkim wspomnieniem a wypowiedzią wygenerowaną przez program, który nie zna całej historii człowieka.

Jeśli w dostępnych materiałach brakuje informacji, AI może uzupełnić lukę odpowiedzią pasującą do kontekstu. Nie musi to być celowe wprowadzanie w błąd. System po prostu generuje prawdopodobną wypowiedź. W rozmowie o codziennych sprawach taki błąd może pozostać drobiazgiem. Gdy chodzi o zmarłego rodzica, partnera czy przyjaciela, nabiera zupełnie innego znaczenia.

Wyobraźmy sobie pytanie o dawny rodzinny konflikt. Cyfrowa postać odpowiada w sposób, który brzmi jak szczere wyznanie. Tyle że zmarły nigdy niczego podobnego nie powiedział. Czy taka odpowiedź może wpłynąć na wspomnienia bliskich, a nawet zmienić ich spojrzenie na przeszłość?

To ryzyko, które opisują Tomasz Hollanek i Katarzyna Nowaczyk-Basińska w artykule naukowym opublikowanym w 2024 roku w czasopiśmie Philosophy & Technology. Autorzy przedstawiają trzy hipotetyczne scenariusze wykorzystania AI do symulowania zmarłych. Nie są to wyniki eksperymentu dowodzącego, że cyfrowe sobowtóry zmieniają ludzką pamięć. To próba pokazania, jakie problemy mogą pojawić się wraz z rozwojem tej branży.

Kto układa opowieść o człowieku po jego śmierci?

Przez lata obraz zmarłego tworzyli bliscy, przyjaciele, biografowie i historycy. Każdy pamiętał coś innego. Listy, fotografie czy nagrania pozwalały wrócić do konkretnych śladów jego życia, choć i te materiały nigdy nie opowiadały całej historii.

Cyfrowy sobowtór wprowadza do tej układanki nowego uczestnika. Nie zna człowieka, ale potrafi przekonująco naśladować jego sposób komunikacji. To, co mówi, zależy od zachowanych danych, sposobu działania systemu i pytań zadawanych przez użytkownika.

W ten sposób algorytm nie tylko odtwarza obraz zmarłego. Może współtworzyć jego kolejną wersję.

Ma to znaczenie zwłaszcza wtedy, gdy cyfrowa postać zaczyna udzielać rad, komentować decyzje bliskich albo wypowiadać się w sprawach, których nie poruszano w zachowanych wiadomościach. Nawet jeśli użytkownik wie, że rozmawia z programem, emocjonalny ciężar takiej odpowiedzi może być trudny do zignorowania.

Pozostaje też pytanie o zgodę. Czy pozostawienie po sobie tysięcy wiadomości oznacza, że człowiek zgadzał się na stworzenie cyfrowej wersji siebie? I czy rodzina powinna mieć prawo decydować, jakie poglądy będzie ona wyrażać?

Hollanek i Nowaczyk-Basińska rozpatrują problem z perspektywy trzech grup: osób, których dane posłużą do stworzenia cyfrowej postaci, tych, którzy będą dysponować tymi danymi po ich śmierci, oraz osób mających później rozmawiać z botem. To ważne rozróżnienie, bo interesy tych osób nie zawsze są zbieżne. Ktoś może chcieć zachować wiadomości po bliskim, ale niekoniecznie mieć jego zgodę na stworzenie interaktywnej kopii.

Nie chodzi wyłącznie o ochronę danych. Stawką jest również to, kto ma prawo opowiadać historię człowieka, który nie może już sam jej sprostować.

Gdy pamięć staje się produktem

Za cyfrowymi rekonstrukcjami stoją firmy, a więc także konkretne modele biznesowe. Interaktywna postać może wymagać abonamentu, kolejnych aktualizacji i dostarczania nowych materiałów. Relacja ze zmarłym staje się wówczas usługą, do której można wracać tak długo, jak długo działa platforma i pozwala na to budżet użytkownika.

W artykule badacze pokazują między innymi hipotetyczne zagrożenie, w którym komercyjne interesy zaczynają wpływać na sposób działania cyfrowej postaci. Jeśli usługa ma przynosić zysk, może pojawić się pokusa wykorzystania zaufania użytkownika do celów reklamowych lub promocyjnych. W przypadku cyfrowego sobowtóra bliskiej osoby taka ingerencja byłaby czymś więcej niż zwykłą reklamą: mogłaby wykorzystywać emocjonalną więź, którą produkt ma podtrzymywać.

Pojawia się też problem zakończenia działania usługi. Co stanie się z cyfrową postacią, jeśli firma zamknie platformę albo zmieni warunki korzystania? Badacze zwracają uwagę na potrzebę odpowiedzialnego wycofywania takich systemów, przejrzystych zasad i zgody zarówno osoby, której dane wykorzystano, jak i przyszłego użytkownika.

To ważne, bo technologia obiecująca zachowanie czyjejś obecności sama zależy od serwerów, licencji i decyzji przedsiębiorstwa. Trudno o większy paradoks.

Autorzy postulują również ograniczenie dostępu do takich usług dla osób dorosłych. Podkreślają przy tym, że potrzebne są dalsze badania nad społecznymi i psychologicznymi konsekwencjami cyfrowego odtwarzania zmarłych. Nie wszystkie zagrożenia można dziś uznać za potwierdzone, ale niepewność nie zwalnia twórców tych narzędzi z odpowiedzialności.

Nie wszystko, co można odtworzyć, jest pamięcią

Pragnienie zachowania głosu i wizerunku bliskich nie jest niczym nowym. Zmieniła się technologia, nie sama potrzeba kultywowania pamięci o zmarłych. Nowością jest możliwość stworzenia wrażenia, że zmarły nadal uczestniczy w rozmowie i odpowiada na wydarzenia, których nie mógł już poznać.

Taka symulacja może być przekonująca, ale nie daje dostępu do myśli ani uczuć człowieka. Nie wiadomo, co naprawdę powiedziałby dzisiaj. Algorytm może jedynie wygenerować odpowiedź na podstawie tego, co o nim zachowano.

Dlatego warto oddzielić pamięć od jej cyfrowej imitacji. Zachowane listy, zdjęcia i nagrania pozwalają wracać do człowieka, którego już nie ma. Cyfrowy sobowtór może natomiast zacząć dopisywać do jego historii słowa, których nigdy nie wypowiedział.

Być może najważniejsze pytanie nie brzmi więc, jak wiernie AI potrafi naśladować zmarłych. Chodzi o to, kto będzie odpowiadał za historię, którą algorytm zacznie tworzyć w ich imieniu. I czy w świecie coraz doskonalszych symulacji pozostanie miejsce na zwyczajną, niedoskonałą pamięć — taką, która nie odpowie na każde pytanie, ale przynajmniej nie będzie udawać, że zna odpowiedź.

Przeczytaj także: Nadchodzi czas samotnej śmierci. Witamy w świecie kodokushi