Wirtualni samuraje chronią dzieci przed przemocą

„Posyłając dziecko do przedszkola, chcemy, by było ono tam bezpieczne. Tak samo bezpieczne powinno być w internecie. Pomyślmy, że w sieci grasuje średnio 750 tys. seksualnych predatorów. To gigantyczna liczba!” – mówi w rozmowie z Holistic.News lekarz, terapeuta i CEO Samurai Labs Michał Wroczyński

SZYMON PIEGZA: Czy w internecie są już tylko sami agresorzy?

MICHAŁ WROCZYŃSKI*: Obecnie wszyscy żyjemy w różnych przestrzeniach. Jednak bardzo często spotykamy się właśnie w internecie, który jest naszym narzędziem pracy, a dla dzieci –  sposobem na rozrywkę czy zabawę. Różnica polega na tym, że dawniej, jeżeli dzieci były atakowane, to odbywało się to w jednym miejscu i w określonym czasie – na przykład na osiedlu lub w szkole. Dziś, przez internet, te ataki odbywają się w zasadzie przez cały czas i dom czy nauczyciel nie stanowią już żadnej ochrony. Dla dzieci oznacza to, że są w stanie ciągłego zagrożenia i stresu.

Wybitny psychiatra, specjalista od badań nad uzależnieniami, Gabor Maté twierdzi, że hejt jest dziś formą współczesnego narkotyku. Kiedy jesteśmy w lęku, kiedy jest nam ciężko i zaczynamy czuć gniew, to internet po prostu daje nam wytchnienie. Przecież w sieci łatwiej komuś dopiec niż w świecie rzeczywistym, mając bezpośredni kontakt z daną osobą. Z kolei prof. Bilewicz zwraca uwagę, że w Polsce jest w ludziach mniej nienawiści, ale za to coraz więcej pogardy. To, co dzieje się w internecie, jest odzwierciedleniem tego stanu rzeczy.

Gdzie leży różnica między nienawiścią a pogardą? Te dwie emocje bardzo często się ze sobą łączą.

Pogarda i nienawiść są zbliżonymi emocjami, jednak pogarda zawiera w sobie element poczucia wyższości. W dodatku pogarda związana jest z silną dehumanizacją czyli odczłowieczeniem. Osoba, która pogardza, nie widzi w swoim „obiekcie”  drugiego człowieka.

W takim razie w internecie przeważa hejt czy pogarda?

Myślę, że w świecie wirtualnym mamy do czynienia ze wszystkimi tymi zjawiskami naraz. I to jest największy problem. Kiedy jesteśmy szczęśliwi, zadowoleni ze swojego życia, to nie mamy potrzeby, by posługiwać się mową nienawiści. Z drugiej strony, nastolatkowie w Stanach Zjednoczonych, którzy dokonywali zamachów w szkołach, przeważnie zawsze byli wcześniej atakowani w wirtualnym świecie. Po prostu te złe uczucia się w nich kumulowały.

To znaczy, że młodzi ludzie coraz częściej nie radzą sobie ze złymi emocjami?

W psychologii mówimy o dublowaniu się zaburzeń osobowości, co najczęściej wynika z traumy, która miała miejsce w dzieciństwie. W Wielkiej Brytanii zaburzenia typu borderline, wynikające z krzywdy na przestrzeni pokoleń – dublują się. To z kolei ma związek z innym niepokojącym zjawiskiem – samobójstwami wśród dzieci. Nie ma tak naprawdę jednej prostej odpowiedzi, dlaczego tak się dzieje.

Czyli hejt bierze się z nieukojonego bólu?

Ostatnie badania dotyczące Generacji Z, czyli ludzi, którzy urodzili się już po 2000 roku i dopiero wkraczają w dorosłe życie, pokazują, że przedstawiciele tego pokolenia bardziej boją się odrzucenia, braku akceptacji, bullyingu niż niechcianej ciąży. Akceptacja innych stała się nadrzędną wartością, a poczucie własnej wartości budowane jest przez pryzmat oceny innych. To ogromna i bardzo niebezpieczna zmiana.

Jak można to zinterpretować?

Wyobcowanie, wynikające z próby podążania za wyidealizowanym, instagramowym życiem, fatalnie działa na ludzką psychikę. Jeśli pomyślimy, że za niedługo więcej małżeństw będzie zawieranych między ludźmi, którzy poznali się w internecie niż w świecie rzeczywistym, to dochodzimy do wniosku, że przeszliśmy prawdziwą rewolucję. Te zmiany bezpośrednio wpływają na całe nasze życie.

Pojawiają się też nowe jednostki chorobowe. Coraz więcej osób, nie tylko młodych, cierpi na zespół FOBO (ang. fear of being offline), czyli strach przed przegapieniem czegoś istotnego.

Coraz lepiej poruszamy się po wirtualnym świecie, co jest przyczyną, ale też skutkiem, tego, że coraz słabiej odnajdujemy się w rzeczywistości. Ten paradoks działa jak samonakręcająca się spirala. Nasze życie przeniosło się w świat wirtualny, pracujemy, żyjemy i dzielimy się swoimi przeżyciami właśnie tam. Nic dziwnego, że bycie wyłączonym z tego kręgu powoduje stres. To efekt podobny do syndromu odstawienia, czyli jak w klasycznym uzależnieniu.

W internecie coraz częściej spotykamy się z kolejnym negatywnym zjawiskiem – mową nienawiści. Czy dzisiaj mamy do czynienia z epidemią, czy wręcz pandemią hejtu?

Niektórzy uważają, że kiedyś 20-30 proc. informacji w sieci to był płatny hejt. Czyli opłacane internetowe trolle, które bardzo skutecznie wykonywały swoją pracę. Popatrzmy choćby na Wielką Brytanię, gdzie w ostatnich latach trzykrotnie wzrosła ilość przestępstw fizycznych względem Polaków – czyli popełnianych na tle narodowościowym.

Z początku było to całkiem marginalne zjawisko, jednak zaczęło ono narastać, a nawet się rozwijać, ponieważ ludzie zaczęli się do niego przyzwyczajać. Dziś skala problemu rośnie bardzo szybko właśnie dzięki internetowi. Niech za przykład posłuży masakra w Rwandzie i sytuacja pomiędzy Tutsi i Hutu. Lokalne radio potrzebowało tam kilku miesięcy, żeby wywołać masakrę. Dziś wystarczy do tego kilka godzin. Wszystko niebezpiecznie przyspiesza.

Dlaczego najbardziej na mowę nienawiści w internecie narażone są dzieci?

Narażeni są wszyscy. Jednak największa krzywda w takiej sytuacji dzieje się właśnie dziecku. Posyłając je do szkoły, chcemy by było bezpieczne. Tego samego oczekujmy od internetu, w którym dziś, według FBI, grasuje ponad 750 tys. predatorów. Z drugiej strony, tylko w Stanach Zjednoczonych w ubiegłym roku odnotowano 180 mln graczy. To gigantyczne liczby!

Kim jest predator?

To drapieżnik, osoba, która z różnych powodów czyha na małoletniego i wytwarza wokół niego grooming, czyli warunki dogodne do ataku. Takie przygotowywanie dziecka trwa nieraz kilka miesięcy, podczas których ten drapieżnik buduje zaufanie, swoistą więź z dzieckiem. Robi to tylko po to, by finalnie wykorzystać dziecko do zaspokojenia swoich potrzeb.

Kto najczęściej stoi za takimi atakami?

Zaledwie 25 proc. przestępstw seksualnych na małoletnich popełnianych jest przez pedofili. Pozostali to osoby z zaburzeniami osobowości, uzależnieni, bądź osoby niedojrzałe psychicznie i seksualnie. Problem znacznie wykracza poza pedofilię jako chorobę. Na nasze dzieci czyha więcej zagrożeń. Kolejnym niebezpiecznym zjawiskiem jest child smuggling, czyli przemyt dzieci dla takich psychopatów. Skala tego zjawiska jest coraz większa, a nowoczesne technologie stanowią narzędzie dla handlarzy dziećmi.

Jak przygotować dziecko na taki atak? Co zrobić, by potrafiło rozpoznać grooming i w porę zareagować?

Podobnie, jak próbujemy zabezpieczyć nasze dzieci w normalnym, codziennym życiu przez różne zamki, zabezpieczenia, ale też edukację. To bardzo ważne, by nauczyć dziecko, by swobodnie rozmawiało z nami o swoich internetowych znajomościach. Uczulić je na to, że nie każdy może być tym, za kogo się podaje i przygotować je do takiego ataku. Jeszcze ważniejsze, by oswoić je z internetem. Pokazać, że sieć również ma tę ciemną stronę, że kryje w sobie wielkie zagrożenia i jest wykorzystywana przez osoby, które chcą wyrządzić im krzywdę.

Pokazać ciemną stronę internetu? Czyli zakazywać, ograniczać do niego dostęp przez blokady rodzicielskie?

W dzisiejszych czasach jest to niemożliwe. Nie da się wyłączyć dzieci z internetu. To część ich życia. To, co można zrobić, to uczyć, jak z niego korzystać i włączyć w ochronę dzieci także wszystkich, którzy tę sieć tworzą – platformy społecznościowe, fora, twórców gier online czy dostawców internetu.

My, jako Samurai Labs, chcemy wykrywać predatorów jeszcze zanim zaczną działać i atakować nieletnich. Na taki proces musi składać się edukacja, ale również technologia, nad którą intensywnie pracujemy od kilku lat. Nie możemy zapominać o tym, że internet bywa niebezpieczny dla osób starszych, które – szczególnie w krajach rozwiniętych – także aktywnie korzystają z sieci. Weźmy przykład Wielkiej Brytanii, gdzie wyłudzenia od starszych ludzi sięgają rocznie nawet 10 mld funtów.

Jak rodzice mają edukować, kiedy sami nierzadko nie odnajdują się w rzeczywistości internetu?

Właśnie dlatego tak ważne jest zajęcie się tematem nie tylko po stronie rodziców, którzy często nie mają wiedzy na temat zagrożeń, lecz także po stronie państw i korporacji. To bardzo złożony proces, ale od czegoś trzeba zacząć. Zwiększenie świadomości wśród rodziców i dzieci, odpowiednie narzędzia pozwalające wykrywać zagrożenia oraz mechanizmy pozwalające skutecznie przeciwdziałać tego typu zdarzeniom, to połączenie, które powinno przynieść rezultaty w walce o dobro dzieci. System Samurai, który w założeniu ma wykrywać i ostrzegać przed predatorem, jest właśnie takim wsparciem.

Skąd pomysł, że to sztuczna inteligencja może chronić dzieci?

Już jako FIDO Labs uczyliśmy komputery zrozumienia ludzkiego języka. Kolejnym zadaniem było to, jak przekazać maszynie wiedzę, by ta mogła zacząć wykorzystywać ją samodzielnie i wnioskować, czyli „myśleć”.

I komputery nauczyły się „myśleć”?

Myśleć w znaczeniu rozumieć i adekwatnie reagować – nasz system jest bardzo bliski tak sformułowanej definicji. Według Marka Zuckerberga, twórcy Facebooka, dopiero za 5-10 lat sztuczna inteligencja będzie w stanie rozwiązać ten problem. My uważamy, że nie mamy tyle czasu. Dlatego stworzyliśmy system, który nie będzie działał post factum.

A w jaki sposób?

Obecnie naruszenie można zgłosić w momencie, kiedy ono już wystąpi. My chcemy, by system reagował w czasie rzeczywistym. Kiedy ktoś będzie stwarzał grooming – kiedy będzie przygotowywał się do ataku – system wychwyci takie wiadomości i zablokuje je razem z ich autorami. Nie ingerujemy w przestrzeń wolności słowa, ale blokujemy agresywny przekaz, zanim on dotrze do odbiorcy. Spędziliśmy dobre kilka lat, by nauczyć komputery ludzkiej gramatyki i niuansów ludzkiego języka. To dość trudne zadanie.

Jak wyglądały takie eksperymenty?

Trenowaliśmy nasz system na prawdziwych danych pochodzących z forów internetowych, czyli miejsc, w których można spotkać osoby – także te posiadające złe intencje czy po prostu hejtujące innych. W momencie, kiedy między użytkownikami pojawiała się kłótnia, system nauczył się ją wychwytywać.

To jak szukanie igły w stogu siana.

Tak, ale to jest wykonalne. Najpierw uczyliśmy system, podając mu całą serię przykładów niepożądanych zachowań. Stworzyliśmy także nowy rodzaj języka, w którym podajemy konkretną wiedzę, na przykład pokazując, że napastnicy w sieci działają według określonych schematów. Chodzi o to, by system nie opierał się tylko na przykładach, ponieważ wciąż jest ich zbyt mało. W końcu predatorzy wymyślają coraz to nowsze sposoby ataku, a sztuczna inteligencja musi wykorzystywać wiedzę i potrafić wnioskować. W fachowej literaturze jest to nazywane „trzecią falą sztucznej inteligencji”.

Jaka jest jej skuteczność?

Nasze najnowsze laboratoryjne badania pokazują, że jesteśmy kilkukrotnie skuteczniejsi w wykrywaniu przemocy niż najlepsze, funkcjonujące obecnie systemy, stworzone przez światowych gigantów.

Wyobraźmy sobie, że dwie osoby grają ze sobą przez internet. Nagle pojawia się atak i co się wtedy dzieje?

Wtedy do akcji wkraczają wirtualni Samuraje, którzy czuwają nad rozmową, a w momencie pojawienia się agresji – blokują przekaz, wysyłając nadawcy i odbiorcy odpowiednie komunikaty. Jeśli przypadek jest bardzo niepokojący, moderator gry może przekazać informacje o agresorze odpowiednim służbom. W sytuacjach mniej niebezpiecznych, kiedy to dzieci atakują się nawzajem, mówiąc do siebie na przykład: „Ty jesteś głupi, jesteś gorszy”, nasz Samuraj reaguje komunikatem: „Nie krzywdź! Dlaczego tak robisz? Jak jeszcze raz dopuścisz się ataku, to zostaniesz wyłączony z rozgrywki na dzień lub kilka dni”.

I to wystarczy?

Z naszych ostatnich badań wynika, że 80 proc. napastników po takiej interwencji nie atakowało już ponownie. Dzieci często nie mają świadomości, że taki komunikat może ranić drugą osobę. Dzięki pozytywnej interwencji zmieniamy ich zachowanie i uświadamiamy, że to, co robią, nie jest akceptowalne.

Czy badania, które prowadzicie, mogą wykorzystywać także to, że wielu napastników przed dokonaniem masakry np. w szkole, zostawia swój ślad w internecie? To przykład głównie z USA, ale też z Polski. Marek N., który dopuścił się strzelaniny w szkole w Brześciu Kujawskim, zapowiedział ją w mediach społecznościowych.

Wiele masakr zaczęło się od tego, że ktoś napisał o swoich planach w internecie, zostawił jakiś ślad. To raczej zadanie dla FBI, Interpolu czy polskiej policji, by temu przeciwdziałać. Oczywiście, powinny działać też mechanizmy, które wyłapywałyby takie zapowiedzi, by je wyhamowywać, nie rozpowszechniać ich dalej. To kolejne wyzwanie dla sztucznej inteligencji. My jednak skupiamy się na tym, by chronić dzieci przed cyberprzemocą, przed cyberbullyingiem.

Przed czym?

Cyberbullying to nic innego jak wykorzystywanie technologii komunikacyjnych do wyrządzenia komuś szkody. W Polsce coraz bardziej powszechne jest określenie „cybernękanie”.

Powiedziałeś niedawno, że stary internet odejdzie do lamusa i za niedługo będziemy mieć do czynienia z jego nową formułą. Na czym miałaby ona polegać?

Ciągle mamy do czynienia z nowymi formułami w internecie. Zwróćmy uwagę, że jeszcze niedawno nie byliśmy w sieci atakowani. Zjawisko cyberprzemocy w ogóle nie było znane. Dziś obserwujemy wzmożoną falę samobójstw wśród dzieci i młodzieży, spowodowaną wyłącznie wyobcowaniem czy hejtem w sieci. Nowa formuła internetu z pewnością będzie inna niż ta, którą znamy dotychczas.

Inna, to znaczy bardziej bezpieczna?

Obecnie sieć działa według modelu reklamowego. Jeżeli pewna ilość osób w coś klika, to badania pokazują, że można na tym zarobić. Z drugiej strony, internet jest jak taka wielka rura, w której można znaleźć najróżniejsze rzeczy, niekoniecznie dobre. Sztuczna inteligencja w przyszłości może nam pomóc w wychwytywaniu tych złych rzeczy i skutecznym przeciwdziałaniu najróżniejszym zagrożeniom.

To jednak nieco idealistyczna wizja. Na pewno ostateczny głos będzie należał do wielkich korporacji jak Google czy Facebook, które przecież zarabiają na reklamach. Dlaczego mieliby dążyć do ich ograniczenia?

Mamy tutaj do czynienia z dynamiczną równowagą. Coraz więcej światowych korporacji, wielkich graczy, chce, by internet, jako wspólna przestrzeń, był coraz bezpieczniejszy. W końcu powstaje pytanie: czy tak naprawdę mamy dziś jakieś inne wyjście?

Przemoc w internecie to podstawowy problem, którym zajmują się najwięksi naukowcy z Doliny Krzemowej. Jest ona oczywiście szeroko rozumiana – również jako wpływanie na wybory w danym kraju, jako powiększanie strefy wpływów, prowadzenie wojny hybrydowej, ale też wykorzystywanie dzieci czy przemoc w mediach społecznościowych.

To wielki problem biznesowy, jednak widzimy wyraźnie, że coraz więcej firm chce zaangażować się w walkę z mową nienawiści. Giganci internetowi doskonale zdają sobie sprawę z tego, że przemoc i agresja powoduje odchodzenie użytkowników, a to nie leży w ich interesie. Ponadto, są poddawani naciskom społecznym i politycznym. Obecnie nie mogą umywać rąk i udawać, że nie biorą odpowiedzialności za to, co się dzieje.

Trudniej jest być dzieckiem dziś niż dawniej?

Internet stał się nieodłącznym elementem w życiu każdego z nas. Trzeba jednak pamiętać, że w związku z tym pojawiło się bardzo wiele nowych czynników ryzyka, na które w tej globalnej sieci jesteśmy narażeni. Psychologowie zwracają także uwagę na negatywne skutki, które występują u dzieci spędzających za dużo czasu na korzystaniu z zasobów sieci. Coraz częstsze zaburzenia, lęki, alienacje, lawinowo rosnąca liczba samobójstw to efekt silnych emocji, które często wywoływane są przez ataki sieci.

W USA w internecie szykanowana jest ogromna liczba dzieci. 20 proc. z nich myśli o samobójstwie, a 2,5 proc. je popełnia. Z badań wynika, że cybernękanie zwiększa ryzyko popełnienia samobójstwa przez dziecko.

Nigdy wcześniej przemoc wśród dzieci nie występowała tak często. Te liczby ciągle rosną, prawie na całym świecie. Jedynym wyjątkiem może być Finlandia, gdzie został przeprowadzony bardzo szeroki program nastawiony na edukację ofiar. To chyba jedyny przypadek, gdzie regularnie obniżane są wskaźniki cybernękania. Ten problem dotyczy również Polski. Ubiegłoroczny raport NIK pokazuje, że 39 proc. polskich uczniów doświadczyło cybernękania. Z kolei z raportu Fundacji Orange wynika, że problem ten dotyczy aż 70 proc. dzieci. Niemal każde kolejne opracowanie pokazuje, że problem lawinowo narasta. Musimy działać, to ostatni moment!

Słownik:

Predator – osoba, która atakuje w internecie osobę małoletnią.

Child grooming – uwodzenie dziecka.

Child smuggling – przemyt dzieci.

Dog-napping – nowa forma groźby, wykryta przez sztuczną inteligencję, która pojawiła się w ostatnim czasie w internecie. Napastnik grozi swojej ofierze porwaniem jej psa. Ciągle tworzą się nowe formy przemocy, a system ciągle pracuje nad wychwytywaniem nowych trendów, real threat, czyli gróźb rzeczywistych

Cyberbullying – cybernękanie.