AI w nauce fałszuje przypisy. Wykryto tysiące błędów

AI w nauce fałszuje przypisy

W nauce to zjawisko groźne. Bibliografia nie jest ozdobnikiem na końcu artykułu. To kręgosłup tekstu naukowego. Pokazuje, skąd pochodzi argument, kto wcześniej zadawał podobne pytania, na jakich danych opiera się autor i gdzie kończy się jego własna praca, a zaczyna dorobek innych.

Właśnie dlatego nowe ustalenia dotyczące AI są tak niepokojące. Międzynarodowy zespół badaczy (między innymi z Cornell University i University of California) przeanalizował 111 milionów referencji z 2,5 miliona prac. Sprawdził, jak często w publikacjach pojawiają się odwołania do fikcyjnych źródeł. Porównano okres sprzed masowego użycia dużych modeli językowych z czasem, kiedy to AI w nauce zaczęła coraz bardziej dominować i być częściej wykorzystywana przy przygotowywaniu prac naukowych.

Audyt naukowych treści dał niepokojące wnioski. Od połowy 2024 roku nastąpił wyraźny wzrost nieistniejących cytowań w publikacjach naukowych. Najwięcej takich błędów popełnili młodzi naukowcy i małe zespoły badawcze. Najsilniejszy sygnał pojawił się jednak w 2025 roku.

Halucynacje sztucznej inteligencji mylą ekspertów

Jak czytamy we wstępnie opublikowanym badaniu, w ciągu jednego roku odkryto aż 146 900 fałszywych cytowań AI. Pochodzą one z różnych repozytoriów naukowych, w tym PubMed Central, czy SSRN. Nieprawdziwe odniesienia pojawiały się na szerszą skalę. To jednoznacznie pokazało, że naukowcy często korzystają z pomocy modeli językowych bez wystarczającej kontroli wygenerowanych przez AI treści.

Modele językowe wykorzystują autorytety

Międzynarodowy zespół badaczy sprawdził też, komu najczęściej przypisywano nieistniejące cytowania. Okazało się, że halucynowane cytowania nie rozkładają się neutralnie. Częściej dopisywały prestiż już rozpoznawalnym badaczom i mężczyznom.

Halucynacje AI brzmią wiarygodnie

Trzeba pamiętać, że halucynacja AI rzadko brzmi jak totalna bzdura. Przeciwnie: często jest płynna, uporządkowana i przekonująca. Model językowy potrafi stworzyć cytowanie, które pasuje do tematu, stylu bibliografii i logiki tekstu. Może dobrać nazwisko prawdziwego badacza, dopisać wiarygodnie brzmiący tytuł i umieścić całość w takim kontekście, który na pierwszy rzut oka nie budzi podejrzeń.

AI w nauce: problem jest większy niż liczba

Jak specjaliści przeprowadzający analizę wskazują, nie jest to pełen obraz problemu halucynacji AI, lecz ostrożne szacunki. Badanie wskazuje jedynie na statystyczny związek między wzrostem liczby takich błędów a okresem upowszechnienia się dużych modeli językowych. Nie stanowi jednak bezpośredniego dowodu na to, że AI w nauce jest jedyną lub bezpośrednią przyczyną powstawania nieprawidłowych cytowań. Mimo to zwracają uwagę na słabość systemów weryfikacji i recenzji, które wychwytują tylko część takich błędów przed publikacją.

To wszystko sprowadza się do jednej kwestii: konieczności wprowadzenia lepszej weryfikacji treści naukowej i zwiększania świadomości wśród naukowców na temat halucynacji AI. Nie tylko przez samych autorów, ale także i wydawnictwa. W przeciwnym razie nawet specjalistyczne artykuły mogą coraz częściej zawierać treści wygenerowane przez systemy, które brzmią pewnie, ale potrafią się mylić. A wtedy trzeba będzie zadać sobie pytanie, na co nam w takim razie potrzebny jest autor, jeśli nikt nie sprawdza wiarygodności źródeł, a więc i artykułów naukowych.

Czy człowiek jest jeszcze potrzebny?

O tym ostatnim w swoim materiale opublikowanym na portalu Holistic News pisze Dariusz Jaroń. Autor przywołuje ewolucję tworzenia treści od ghostwritera, który anonimowo pisał książki w imieniu kogoś innego aż do sztucznej inteligencji, która generuje na zlecenie pisarza konkretne fragmenty lub nawet całe treści. Tylko że, jak zauważa Jaroń, ghostwriter jedynie realizuje wizję stworzoną przez oficjalnego autora książki. A model językowy często tworzy własną treść, która może brzmieć wiarygodnie, ale opiera się na nieistniejących danych i materiałach.

Warto przeczytać: Coś poszło nie tak. AI zignorowało polecenia wyłączenia się