Prawda w erze AI. Jak odróżnić autentyczność od symulacji?

Maszyna bardziej ludzka niż człowiek

Naukowcy z Uniwersytetu Kalifornijskiego w San Diego przeprowadzili serię eksperymentów z udziałem nowoczesnych modeli językowych i ludzkich uczestników. Badacze zastosowali klasyczny, trójstronny test Turinga: sędzia rozmawia równolegle z maszyną i człowiekiem, a następnie musi wskazać, kto jest kim. Kluczowy wynik był uderzający. Po odpowiednim ustawieniu modeli sztuczna inteligencja była częściej uznawana za człowieka niż realni ludzie.

Musimy być bardziej czujni; podczas interakcji z nieznajomymi w sieci ludzie powinni być znacznie mniej pewni, że rozmawiają z człowiekiem, a nie z modelem językowym

– ostrzega Cameron R. Jones, jeden z autorów badania.

Jak zdefiniować człowieczeństwo?

Alan Turing pytał kiedyś, czy maszyna może myśleć. Dziś – jak zwracają uwagę autorzy badań – klasyczny test coraz częściej mierzy już nie tyle „inteligencję”, ile podobieństwo do człowieka w krótkiej, tekstowej wymianie. Innymi słowy, stawką przestaje być to, co się dzieje „w środku” systemu, a zaczyna być to, czy potrafi on zagrać przekonująco rolę rozmówcy.

Problem w tym, że nasze potoczne kryteria człowieczeństwa w sieci stały się zaskakująco łatwe do zasymulowania. Reagujemy przede wszystkim na styl: płynność wypowiedzi, uprzejmy ton, lekkie poczucie humoru, deklarowane emocje, czasem na celowo wprowadzone drobne błędy.

Jeżeli autentyczność w erze AI zostaje zredukowana do zestawu takich stylistycznych sygnałów, to nic dziwnego, że systemy trenowane na niepojętej liczbie naszych rozmów, maili, wpisów i komentarzy zaczynają wygrywać w tym teatrze z wieloma z nas.

Nowy numer już jest!

Prawda w erze AI – autentyczność czy dobrze odegrana rola?

Prawda w erze AI staje się zatem kwestią percepcji. Jeśli najbardziej ludzkie wydaje nam się to, co jest w istocie dobrze odegraną rolą, autentyczność przestaje być pytaniem o to, kim ktoś jest, a staje się pytaniem o to, jak dobrze potrafi „grać”.

Im bardziej nasze interfejsy komunikacyjne przypominają scenę, na której każdy – człowiek czy maszyna – może wcielić się w dowolną postać, tym trudniej powiązać treść słów z konkretnym podmiotem. Autentyczność nie jest już czymś, co można wychwycić po jednym czy dwóch sygnałach emocjonalnych, bo te można wygenerować, wzmocnić albo stonować jednym parametrem w modelu.

To oznacza, że coraz trudniej odróżnić autentyczność od przekonującej symulacji. Zjawisko to ma daleko idące konsekwencje dla relacji międzyludzkich. Przyjaźnie, romanse i współpraca zawodowa coraz częściej zaczynają się w sieci. Jeśli nie jesteśmy pewni, czy po drugiej stronie jest człowiek, czy algorytm zoptymalizowany pod kątem budowania relacji, jak budować zaufanie?

Nowa etyka komunikacji

Gdy nie jesteśmy w stanie odróżnić człowieka od systemu w krótkiej rozmowie, zmienia się cała etyka komunikacji. Klasyczne założenie, że „po drugiej stronie jest człowiek”, nie powinno być już dłużej „domyślnym ustawieniem”. Coraz bardziej uzasadniona wydaje się dziś zasada ostrożności: dopóki nie mamy pewności, powinniśmy liczyć się z tym, że rozmawiamy z systemem.

To prowadzi do kolejnego pytania: czy wchodzimy w epokę, w której etyczna komunikacja będzie wymagała jawnego oznaczania maszyn? Skoro tak łatwo sprawić, że maszyna będzie brzmiała jak człowiek, uczciwość wymaga przynajmniej jasnego komunikatu, z kim mamy do czynienia. To elementarna forma szacunku. Mamy prawo wiedzieć, komu powierzamy swoje emocje, sekrety, pytania egzystencjalne czy wrażliwe dane.

Kto jest po drugiej stronie?

Brak oznaczeń sprawia, że każdy akt zaufania w sieci staje się rodzajem zakładu – być może otwieram się przed czymś, co nie tylko nie jest człowiekiem, ale zostało zaprojektowane po to, by jak najlepiej wpisać się w moje oczekiwania. W dłuższej perspektywie bez odpowiednich oznaczeń ryzykujemy erozję prawdy publicznej. Dezinformacja, manipulacja opinią czy oszustwa staną się prostsze niż kiedykolwiek.

Sztuczna inteligencja nie jest neutralnym narzędziem. Za każdym modelem językowym stoją projektanci, firma, która go wdrożyła, oraz konkretne interesy wpisane w sposób jego działania. Tym bardziej prawda w erze AI musi być związana z przejrzystością. Z wiedzą, kto stoi za danym systemem, jakie ma cele, mechanizmy kontroli i odwołania. Zaufanie w sieci będzie możliwe tylko wtedy, gdy za idealną symulacją „człowieczeństwa” będzie stał realny, identyfikowalny łańcuch odpowiedzialności, a nie bezosobowa „inteligencja w chmurze”.

Intuicja dziś już nie wystarczy

W erze zaawansowanej sztucznej inteligencji nie wystarczy zdać się na intuicję, że „wyczujemy człowieka”. Badania pokazują, że nasze kryteria „ludzkości” okazały się zaskakująco naiwne i łatwe do podrobienia. Może więc, zamiast zachwycać się kolejnymi „ludzko brzmiącymi” modelami AI, warto zastanowić się jak stworzyć normy, instytucje i narzędzia, które pozwolą nam na nowo powiązać słowa z konkretnym, odpowiedzialnym podmiotem.

Z drugiej strony, ta sytuacja może nas zmusić do głębszej refleksji nad tym, co naprawdę czyni nas ludźmi. Jeśli AI potrafi być bardziej uprzejme, zrównoważone i angażujące – czy nie powinniśmy sami podnosić poprzeczkę w relacjach z innymi? Kto wie – paradoksalnie być może to właśnie maszyny mogą nauczyć nas, jak być lepszymi ludźmi.

Przeczytaj również: Wiemy, jak AI naprawdę się uczy. To zaczyna być niepokojąco ludzkie