Nowa polska AI ma chronić dzieci. „Sójka” zablokuje przemoc w sieci

Czym jest „Sójka” i dlaczego powstała?

Internet już dawno przestał być jedynie przestrzenią komunikacji i rozrywki. Coraz częściej staje się miejscem realnych zagrożeń – manipulacji, dezinformacji i brutalnego hejtu, który zostawia trwałe rany psychiczne. Z tym ma walczyć „Sójka” – nowy model sztucznej inteligencji stworzony przez Bielik.AI, polski zespół pracujący nad technologiami zwiększającymi bezpieczeństwo w sieci.

To narzędzie zostało zaprojektowane jak cyfrowy strażnik treści. Jego zadanie jest proste: chronić użytkowników internetu przed szkodliwymi treściami w czasie rzeczywistym. I to nie tylko przed tym, co piszą ludzie – ale również przed tym, co generują inne modele AI.

– Stworzyliśmy zestawy przykładów, na których Sójka uczy się rozpoznawać zagrożenia. Jednym z nich jest GadziJezyk, a największym — zbiór polskich promptów i komentarzy z mediów społecznościowych. W jego opracowanie zaangażowało się ponad 1500 wolontariuszy, którzy nadali ~60 tys. etykiet. – napisał na portalu LinkedIn Jan Maria Kowalski z Bielik.AI

Jak „Sójka” ma chronić dzieci w internecie?

„Sójka” skupi się na znalezieniu i ograniczaniu niebezpiecznych oraz nielegalnych treści tworzonych przez użytkowników i sztuczną inteligencję. Raport Bielik.AI wskazuje, że narzędzie zwróci uwagę na 5 szkodliwych kategorii. Są to:

• treści erotyczne – niewłaściwe oraz niepożądane komunikaty o charakterze seksualnym;
• wulgaryzmy – język obraźliwy, który źle wpływa na dyskusję;
• instrukcje przestępcze – promowanie nielegalnych działań;
• mowę nienawiści – wpisy, które dyskryminują i atakują ze względu na przekonania, pochodzenie oraz orientację;
• zachowania autodestrukcyjne – wszystkie treści, które nawołują do odebrania sobie życia oraz samookaleczania. To właśnie na nie model językowy ma być szczególnie wyczulony.

To nie jest zwykły filtr, jakich wiele w przestarzałych systemach blokujących. „Sójka” rozumie kontekst – potrafi odróżnić cytat z książki od realnego nakłaniania do przemocy, a ironię od gróźb. Jej reakcja jest natychmiastowa.

Blokowanie hejtu w internecie w czasie rzeczywistym

„Sójka” działa błyskawicznie – wykrywa szkodliwe treści i blokuje je, zanim trafią do innych użytkowników. Może też współpracować z czatbotami i modelami językowymi, aby nie dopuszczać do generowania toksycznych odpowiedzi.

Próby obejścia systemu? Twórcy to przewidzieli. Model wykrywa nawet treści ukrywane przez emoji, zamienniki słów czy „kropkowanie” wyrazów. Uczy się tak samo jak cyberprzestępcy – na bieżąco.

Dlaczego „Sójka” jest potrzebna? Dane są alarmujące

To, że takie narzędzie jest potrzebne, pokazują statystyki. Problem hejtu dotyczy dziś przede wszystkim młodych użytkowników internetu.

Według danych NASK:

• 50 proc. nastolatków w Polsce doświadczyło przemocy słownej w internecie
• 70 proc. dzieci uważa hejt za największe zagrożenie w sieci
• 1 na 3 nastolatków spotyka się z zastraszaniem online

To nie są puste liczby – za każdą z nich stoi dziecko, które codziennie loguje się do świata pełnego agresji. I właśnie dlatego „Sójka” została zaprojektowana z myślą o ochronie najmłodszych użytkowników internetu.

Gdzie będzie używana „Sójka”?

„Sójka” jest już na finiszu testów. Za kilka dni każdy będzie mógł z niej skorzystać – za darmo. Później trafi do szkół, mediów, firm i instytucji. Celem zespołu Bielik.AI jest wprowadzenie „Sójki” do polskich szkół, by chroniła uczniów podczas nauki zdalnej oraz korzystania z internetu.

A jego twórcy proszą użytkowników o pomoc w udoskonaleniu nowej polskiej sztucznej inteligencji: -„(…) Każdy może ocenić działanie Sójki przez prosty feedback. Te dane pomagają nam dalej udoskonalać model.”- zaapelował na LinkeIdn Jan Maria Kowalski

Jedno raniące zdanie, jedno upokarzające zdjęcie albo jeden hejt potrafi zniszczyć pewność siebie dziecka na lata. Dziś młodzi ludzie żyją online. Tam dorastają, budują relacje, szukają wsparcia. Dlatego sieć musi być bezpieczna – tak samo jak szkoła czy dom.

FAQ – szybkie odpowiedzi o „Sójce”

• Czy „Sójka” naprawdę wykrywa hejt w internecie?
  Tak, analizuje kontekst językowy i blokuje szkodliwe treści w czasie rzeczywistym.
• Kto będzie mógł korzystać z „Sójki”?
  Najpierw testowo użytkownicy indywidualni, potem szkoły, media i platformy online.
• Czy ta polska sztuczna inteligencja jest bezpieczna?
  Twórcy zapewniają, że działa zgodnie z zasadami AI Safety i RODO.
• Ile będzie kosztować „Sójka”?
  Na start – ma być dostępna za darmo w wersji testowej.

Warto przeczytać: Dzieci pytały ChatGPT o rady. To, co usłyszały, przeraża badaczy

Black Friday & Cyber Monday

Black Friday przez cały listopad! -20% na cały koszyk z kodem: BLACK20
Do zobaczenia!
Księgarnia Holistic News