AI na wojnie. Kto odpowie za śmierć, gdy strzela algorytm?

AI na wojnie to już codzienność

Sztuczna inteligencja w coraz większym stopniu wkracza na współczesne pole walki. Nowe systemy przechwytywania potrafią samodzielnie wykrywać, śledzić i niszczyć cele, a człowiek coraz częściej pełni rolę obserwatora, który jedynie zatwierdza ogólne ramy działania. Widzimy to już dziś za naszą wschodnią granicą, gdzie AI na wojnie to już codzienność.

Ukraińskie wojsko wdraża właśnie nową generację autonomicznych dronów, które potrafią automatycznie przechwytywać rosyjskie Shahedy. Według ukraińskiego ministerstwa obrony systemy te wykonują nawet 95 procent całego procesu przechwycenia.

Operator obserwuje pole walki, wybiera cel, a dalej sztuczna inteligencja samodzielnie naprowadza drona i przeprowadza atak. Inne ukraińskie rozwiązania, jak w pełni zautomatyzowana wieżyczka Sky Sentinel, są już w stanie wykrywać cele, liczyć trajektorię i otwierać ogień bez ręcznej obsługi żołnierza.

Korzyści militarne i psychologiczna tarcza

Z wojskowego punktu widzenia to rewolucja: szybsza reakcja, mniejsze ryzyko dla własnych żołnierzy, więcej strąconych wrogich dronów. To także tarcza przed najcięższymi doświadczeniami frontu. Współczesne armie od dawna zmagają się z falą zespołu stresu pourazowego, depresji i samobójstw. Jeśli żołnierz nie widzi ciał, nie słyszy krzyków, nie czuje zapachu spalenizny, być może łatwiej będzie mu wrócić do życia po wojnie.

Erozja poczucia odpowiedzialności

Problem w tym, że wraz z traumą może osłabiać się także poczucie współodpowiedzialności. Kiedy da się powiedzieć: „to system tak zaklasyfikował cel”, „taki był algorytm”, człowiek zyskuje wygodny bufor, za którym jego własne sumienie może się schować.

Przez wieki wojna, mimo całej swojej brutalności, zawierała w sobie pewien ludzki hamulec. Żołnierz mógł się załamać, odmówić rozkazu, poczuć wyrzuty sumienia, spojrzeć w oczy przeciwnika – nawet jeśli był to wróg. Te „słabości” – lęk, empatia, poczucie winy – działały czasem jako naturalna bariera przed nadmierną przemocą. Maszyny nie mają tych ograniczeń. Nie łamią się psychicznie, nie wahają się, nie odmawiają wykonania polecenia. AI na wojnie działa z precyzją i bez emocji.

Łatwiej wydać wyrok na wroga, którego nie widać

Psychologowie wojskowości od lat pokazują, że dystans fizyczny i technologiczny – od karabinu, przez samolot, po drona – obniża barierę moralną przed użyciem siły. Autonomiczne systemy wprowadzają nowy poziom tego dystansu. Człowiek może zredukować się do roli administratora systemu, który „tylko inicjuje proces”.

Decyzja o zabiciu staje się coraz bardziej zdalna i abstrakcyjna. Operator nie musi już śledzić celu przez długie minuty. Nie widzi skutków swojego działania w czasie rzeczywistym w ten sam sposób, w jaki widział to pilot myśliwca czy snajper. Wystarczy jeden „klik” – i algorytm przejmuje resztę.

Delegowanie decyzji o ataku maszynom podważa moralną strukturę podejmowania decyzji. Żołnierz lub operator, który może powiedzieć, że to system podjął decyzję zamiast niego, łatwiej jest w stanie odciąć się od konsekwencji swoich działań. To nie tylko zmienia psychologię jednostki, ale także przesuwa kulturowe wyobrażenie o winie i odpowiedzialności.

Kto odpowiada za błąd systemu?

Najbardziej dramatycznie widać to w chwilach błędu. Jeśli autonomiczny dron pomyli cywilne auto z pojazdem wojskowym, klasyczny model odpowiedzialności zaczyna się kruszyć. Dotąd można było prześledzić łańcuch dowodzenia. Ustalić, kto wydał rozkaz, czy zachowano procedury, czy nie doszło do zaniedbania.

W świecie systemów autonomicznych ten łańcuch zostaje przecięty przez „czarną skrzynkę” uczenia maszynowego, gdzie decyzje zapadają w sposób, którego nawet twórcy nie potrafią w pełni wyjaśnić.

Wina rozlewa się po całej sieci. Od inżyniera, który trenował model na niedoskonałych danych, przez firmę, która sprzedała system, po dowódcę, który go wdrożył, i państwo, które uznało, że taki margines błędu jest akceptowalny. Im więcej decyzji oddajemy algorytmom, tym bardziej rozmywa się związek między konkretną osobą a konkretnym aktem przemocy.

W praktyce oznacza to ryzyko, że w przypadku tragedii nikt nie poniesie pełnej odpowiedzialności. A brak odpowiedzialności jest jednym z najgroźniejszych katalizatorów przemocy.

AI na wojnie: niższy próg eskalacji

W tle tej moralnej niejednoznaczności zmienia się też ekonomia wojny. Autonomiczne drony są relatywnie tanie, można je produkować masowo, a ich utrata nie rodzi politycznych kosztów związanych ze śmiercią własnych żołnierzy. W efekcie próg wejścia w konflikt może się obniżać. Skoro można wysłać w powietrze roje maszyn sterowanych przez sztuczną inteligencję, zamiast ludzi z imionami i rodzinami, pokusa użycia siły rośnie.

Eskalacja staje się łatwiejsza także dlatego, że jest mniej widoczna. Zamiast trumien wracających do kraju widzimy statystyki zużytego sprzętu i wykresy skuteczności przechwyceń. W takim świecie wojna coraz bardziej przypomina zarządzanie zasobami technicznymi niż egzystencjalny dramat społeczeństwa wysyłającego swoich obywateli na front.

AI na wojnie nie tylko zmienia sposób prowadzenia działań bojowych, ale też przekształca polityczną kalkulację ryzyka.

Co tracimy, gdy człowiek znika z równania?

Wojna zawsze była miejscem, w którym ujawniała się ludzka kondycja – zarówno w jej najgorszym, jak i czasem w najbardziej heroicznym wymiarze. Gdy z tego równania coraz bardziej znika człowiek – zarówno jako ten, kto zabija, jak i ten, kto może odmówić, zawahać się lub poczuć winę – tracimy coś istotnego. Nie tylko kontrolę nad decyzjami o życiu i śmierci, ale także pewien moralny horyzont, w którym przemoc pozostaje aktem ludzkim, a więc podlegającym osądowi, sumieniu i odpowiedzialności.

Rozwój AI na wojnie jest nieunikniony. Pytanie brzmi, czy potrafimy zachować w tym procesie wystarczająco silny ludzki element. Bo jeśli maszyny będą zabijać coraz sprawniej, a my coraz łatwiej będziemy zrzucać z siebie winę, to ostatecznie nie tylko wojna się zmieni. Zmieni się także nasze wyobrażenie o odpowiedzialności, odwadze i krzywdzie.

Przeczytaj również: Wojna zaczyna się w głowie. Skąd bierze się zgoda na przemoc