Efekt Google, czyli jak przez sztuczną inteligencję tracimy umiejętności

W 2009 roku rozbił się pasażerski odrzutowiec Air France z ponad setką osób na pokładzie. Nikt nie przeżył katastrofy. Jej przyczyną był system autopilota, który niespodziewanie się wyłączył. Piloci, którzy dotychczas polegali na swoim komputerowym asystencie, nie byli w stanie ręcznie skorygować lotu. W 2015 roku w Belgii kierowca autobusu wpisał do swojego urządzenia GPS niewłaściwe miejsce docelowe i zabrał grupę belgijskich turystów na 1200-kilometrowy objazd w złym kierunku.

Zobacz też:

Efekt Google a erozja umiejętności

To są jedynie przykłady, ale nie są one odosobnione. Badania naukowców z Uniwersytetu w Utah pokazują, że delegowanie technologii do wykonywania zadań poznawczych może powodować utratę kompetencji w tym zakresie. Istnieje nawet termin określający naszą tendencję do zapominania informacji dostępnych za pośrednictwem wyszukiwarek internetowych: „efekt Google”.

W miarę jak nowe technologie sztucznej inteligencji obiecują automatyzację coraz szerszego zakresu działań, rośnie ryzyko tak zwanej erozji umiejętności. Badania pokazują, jak może do niej dojść, a ich wyniki podpowiadają sposoby, które mogą pomóc zachować wiedzę i umiejętności, nawet jeśli nie są one potrzebne na co dzień.

Erozja umiejętności może sparaliżować organizację

Badania naukowców z Uniwersytetu Queensland pokazują, że bardzo łatwo przegapić erozję umiejętności. W 2023 roku uczeni przeanalizowali występowanie tego zjawiska w jednej z firm księgowych.

Kiedy firma przestała korzystać z oprogramowania, które zautomatyzowało znaczną część jej pracy, to okazało się, że księgowi nie byli w stanie wykonywać zadań samodzielnie. Lata nadmiernego polegania na oprogramowaniu spowodowały erozję ich wiedzy i ostatecznie musieli się uczyć od nowa.

Chociaż oprogramowanie było oparte na regułach (nie wykorzystywało uczenia maszynowego ani sztucznej inteligencji), było wystarczające do śledzenia amortyzacji i tworzenia raportów do wielu celów podatkowych i finansowych. Były to zadania, które księgowi uważali za bardzo złożone i żmudne.

Firma zdała sobie sprawę z erozji umiejętności dopiero po tym, jak klient znalazł błędy w ręcznych raportach zespołu księgowego. Ponieważ pracownikom brakowało wystarczającej wiedzy, firma musiała zlecić naprawienie pomyłek dostawcy oprogramowania.

Polecamy: Kim są techno-optymiści i dlaczego mogą się mylić?

Jak dochodzi do erozji umiejętności?

Naukowcy odkryli, że brak wiedzy na temat zadania wykonywanego ze wsparciem automatyzacji doprowadził do erozji umiejętności. Księgowi nie martwili się scedowaniem ich myślenia na oprogramowanie, ponieważ działało ono niemal bezbłędnie. Innymi słowy, padli ofiarą samozadowolenia z automatyzacji. To pojęcie zakładające, że przerzucanie zadań na AI przynosi same korzyści, przy jednoczesnym ignorowaniu założeń. Miało to trzy główne konsekwencje:

• Pracownicy stracili świadomość tego, jakie procesy wykonywane są automatycznie;
• Stracili motywację do utrzymywania i aktualizowania odpowiedniej wiedzy (takiej jak na przykład przepisy podatkowe), ponieważ oprogramowanie zrobiło to za nich;
• Księgowi przestali sprawdzać raporty, ponieważ program działał bezbłędnie.

Jak utrzymać swoje umiejętności?

Jak więc zapobiec samozadowoleniu podczas korzystania ze sztucznej inteligencji i innych zautomatyzowanych systemów? Oto trzy wskazówki:

• Zwracaj uwagę na to, co robi system — jakie dane wejściowe są używane, w jakim celu i co może wpływać na jego działanie;
• Aktualizuj swoje kompetencje;
• Krytycznie oceniaj wyniki, nawet jeśli ostateczne rezultaty wydają się zadowalające.

Jak to może wyglądać w praktyce? Za przykład weźmy jazdę samochodem z pomocą nawigacji opartej na sztucznej inteligencji. Zamiast ślepo podążać za instrukcjami, zwracaj uwagę na znaki drogowe i punkty orientacyjne oraz bądź świadomy tego, co robisz, nawet gdy jesteś prowadzony.

Czy sztuczna inteligencja jest niezbędnym towarzyszem?

Przypadek firmy księgowej rodzi również szersze pytanie: które umiejętności są na tyle istotne i warte utrzymania, że nie powinniśmy ich automatyzować?

Nie ma uniwersalnej odpowiedzi, ponieważ umiejętności zawodowe zmieniają się w czasie, jurysdykcjach, branżach, kulturach i lokalizacjach. Jest to jednak pytanie, z którym będziemy prędzej czy później musieli się zmierzyć, ponieważ sztuczna inteligencja przejmuje czynności, które kiedyś uważano za niemożliwe do zautomatyzowania.

W świecie skoncentrowanym na wydajności i celach, organizacje i firmy faworyzują rozwiązania, które poprawiają sytuację w krótkim okresie, nawet jeśli mają negatywne, długoterminowe skutki uboczne. Tak właśnie stało się w przypadku księgowości. Wzrost wydajności przyćmił obawy dotyczące wiedzy specjalistycznej, aż w końcu pojawiły się problemy. Nie oznacza to, że powinniśmy unikać AI. Organizacje nie mogą sobie pozwolić na przegapienie możliwości, jakie ona stwarza. Powinny jednak zdawać sobie sprawę z ryzyka erozji umiejętności.

To może cię również zainteresować: