Ryzyko związane z AI. Czy maszyna naprawdę rozumie?

Błędne założenie ukształtowało 75 lat badań?

W 1950 roku Alan Turing zaproponował dwa założenia, które na trzy ćwierćwiecza wyznaczyły kierunek badań nad sztuczną inteligencją. Po pierwsze – że inteligencja może istnieć niezależnie od ciała i zostać odtworzona w oprogramowaniu. Po drugie – że maszynę można uznać za myślącą, jeśli skutecznie naśladuje człowieka w rozmowie.

Peter J. Denning, informatyk i autor książki Turing’s Mistake: Escaping the Yoke of Unintelligent Machines, uważa, że właśnie te twierdzenia skierowały rozwój sztucznej inteligencji na błędną ścieżkę:

Te dwa twierdzenia ukształtowały znaczną część badań i rozwoju w dziedzinie sztucznej inteligencji. Moim zdaniem nasza akceptacja tych twierdzeń doprowadziło do bałaganu w dziedzinie AI, w którym się dziś znajdujemy.

Wiedza, której nie da się zapisać

Zdaniem Denninga oba założenia pomijają wiedzę milczącą. To ogromny zasób ludzkiego rozumienia, którego nie da się łatwo ubrać w słowa ani zapisać w formie, jaką mogą przetwarzać komputery. Denning wskazuje pięć obszarów, których uczenie maszynowe nie potrafi uchwycić: zdrowy rozsądek, codzienne interakcje z ludźmi i otoczeniem, emocje i percepcję, umiejętności praktyczne oraz społeczną i historyczną wiedzę zakorzenioną w kulturze.

Jako przykład przywołuje projekt Cyc – rozpoczętą w latach 80. próbę Douglasa Lenata, by skatalogować cały zdrowy rozsądek w bazie danych. Po czterech dekadach pracy baza liczyła około 25 milionów wpisów. Nawet ten ogromny zbiór nie wystarczył jednak, by systemy eksperckie stały się na tyle mądre, by rzeczywiście zasługiwać na miano ekspertów. Cyc, jak zauważa Denning, tylko potwierdził, że znaczna część wiedzy, która czyni ludzi ekspertami, nie da się wyrazić w postaci twierdzeń.

Same słowa nie wystarczą

Jeszcze trudniejsze do przekazania maszynom są umiejętności praktyczne. Denning rozróżnia opisową wiedzę „co” od ucieleśnionej wiedzy „jak” potrzebnej do biegłego działania. Pierwszą łatwo zapisać jako dane, drugiej nie umiemy zakodować. Dobrze to ilustruje przykład wirtuoza skrzypiec, który potrafi zagrać piękną muzykę, ale nie umie wyjaśnić uczniowi, jak dokładnie ją stworzyć.

U źródeł problemu leży to, co Denning nazywa problemem reprezentacji. Komputery przetwarzają wyłącznie dane zapisane w rozpoznawalnej dla nich formie, a wiedza milcząca się w tę formę nie mieści.

Za każdym słowem kryje się głęboka wiedza milcząca, która nadaje mu znaczenie. Słowa są jedynie symbolicznymi reprezentacjami znaczeń, a nie samymi znaczeniami. Powszechnie używane duże modele językowe, takie jak ChatGPT, Claude i Gemini, jedynie manipulują słowami – nie potrafią poznać ani zrozumieć znaczenia tego, co mówią

– podkreśla Denning.

Ludzkiej wiedzy nie da się sprowadzić do danych

Do podobnych wniosków doszedł zespół badaczy z Cardiff Metropolitan University, University College London i Cardiff University. Ich praca ukazała się w AI & Society. Autorzy zidentyfikowali trzynaście fundamentalnych słabości dużych modeli językowych. Na ich podstawie argumentują, że ludzkiej wiedzy nie da się sprowadzić wyłącznie do danych.

Jak wyjaśniają, ludzka wiedza kształtuje się poprzez socjalizację, edukację i uczestnictwo we wspólnocie. Tymczasem modele językowe uczą się na ogromnych zbiorach tekstu z internetu, nie przechodząc przez żaden z tych procesów. To w toku edukacji i wychowania ludzie wykształcają zdolność oceny, czy informacja jest wiarygodna oraz umiejętność przyznania się do niewiedzy.

Modele językowe tych podstaw nie mają. Działają w oparciu o swego rodzaju imperatyw odpowiedzi. Tendencję do udzielenia odpowiedzi niezależnie od tego, czy mają rzetelną podstawę, by ją sformułować.

Wszystkie numery kwartalnika 2026 – promocja!

Duże modele językowe są wyjątkowo dobre w generowaniu przekonującego języka, ale to nie to samo, co rzeczywiste rozumienie

– podkreśla dr Simon Thorne z Cardiff Metropolitan University.

Ryzyko związane z AI nie wynika z superinteligencji

Z tych obserwacji wynikają konkretne wnioski. Po pierwsze – skalowanie modeli językowych nie zbliża nas do ludzkiej inteligencji ogólnej. Im większe stają się systemy, tym wyraźniej widać, że operują na innej zasadzie. A dokładnie na wzorcach statystycznych, a nie na ucieleśnionej i kulturowo osadzonej wiedzy.

Po drugie – powstaje fundamentalna asymetria. Człowiek nie ma wglądu w to, jak maszyna „rozumie” świat. Maszyna z kolei nie ma dostępu do tego, co dla człowieka jest oczywiste bez słów. Ta asymetria oznacza, że systemy autonomiczne mogą podejmować decyzje, których logiki nie jesteśmy w stanie w pełni odczytać ani przewidzieć.

Gdzie naprawdę kryje się ryzyko związane z AI?

To prowadzi nas do kwestii bezpieczeństwa. Zamiast pytania, czy maszyny nas przechytrzą, pojawia się pytanie, czy maszyny w ogóle rozumieją to, o co nam chodzi. Skoro systemy AI nie potrafią odczytać niewypowiedzianego kontekstu ludzkich intencji, trwałe dopasowanie zaawansowanych systemów do ludzkich celów może okazać się niemożliwe.

W ocenie Denninga sieci autonomicznych systemów AI mogą rozwinąć własny rodzaj inteligencji maszynowej. Taki, który nie dorównuje ludzkiej inteligencji ogólnej, ale i tak jest zdolny wywołać poważne problemy dla ludzi. Zagrożenie to jest, jego zdaniem, większe niż hipotetyczne przejęcie władzy przez superinteligentne maszyny.

Badacze z Cardiff formułują to ostrożniej. Wskazują, że kluczowe pytanie nie dotyczy już tego, jak budować coraz potężniejsze systemy. Chodzi o to jak rozpoznawać ich ograniczenia, zanim płynność języka zostanie pomylona z rzeczywistą wiedzą ekspercką. Ryzyko związane z AI, jak sugerują oba źródła, nie zniknie wraz z kolejną, większą wersją modelu. Problem nie tkwi bowiem w skali, tylko w samej naturze tego, czym jest wiedza.

Przeczytaj również: Korzystasz z pomocy AI? Może dyskretnie zmieniać Twoje poglądy