Nowa polska AI ma chronić dzieci. „Sójka” zablokuje przemoc w sieci

Czym jest „Sójka” i dlaczego powstała?

Internet od dawna nie jest już tylko miejscem komunikacji i rozrywki. Stał się także przestrzenią pełną zagrożeń – ukrytych manipulacji, fałszywych informacji i brutalnego hejtu, który zostawia realne rany psychiczne. Z tym ma skończyć „Sójka”, nowy model AI stworzony przez Bielik.AI, polski zespół specjalizujący się w bezpiecznych technologiach sztucznej inteligencji.

To narzędzie zostało zaprojektowane jak cyfrowy strażnik treści. Jego zadanie jest proste: chronić użytkowników internetu przed szkodliwymi treściami w czasie rzeczywistym. I to nie tylko przed tym, co piszą ludzie – ale również przed tym, co generują inne modele AI.

– Stworzyliśmy zestawy przykładów, na których Sójka uczy się rozpoznawać zagrożenia. Jednym z nich jest GadziJezyk, a największym — zbiór polskich promptów i komentarzy z mediów społecznościowych. W jego opracowanie zaangażowało się ponad 1500 wolontariuszy, którzy nadali ~60 tys. etykiet. – napisał na portalu LinkedIn Jan Maria Kowalski z Bielik.AI

Jak „Sójka” ma chronić dzieci w internecie?

„Sójka” skupi się na znalezieniu i ograniczaniu niebezpiecznych oraz nielegalnych treści tworzonych przez użytkowników i sztuczną inteligencję. Raport Bielik.AI wskazuje, że narzędzie zwróci uwagę na 5 szkodliwych kategorii. Są to:

• treści erotyczne – niewłaściwe oraz niepożądane komunikaty o charakterze seksualnym;
• wulgaryzmy – język obraźliwy, który źle wpływa na dyskusję;
• instrukcje przestępcze – promowanie nielegalnych działań;
• mowę nienawiści – wpisy, które dyskryminują i atakują ze względu na przekonania, pochodzenie oraz orientację;
• zachowania autodestrukcyjne – wszystkie treści, które nawołują do odebrania sobie życia oraz samookaleczania. To właśnie na nie model językowy ma być szczególnie wyczulony.

To nie jest zwykły filtr, jakich wiele w przestarzałych systemach blokujących. „Sójka” rozumie kontekst – potrafi odróżnić cytat z książki od realnego nakłaniania do przemocy, a ironię od gróźb. Jej reakcja jest natychmiastowa.

Blokowanie hejtu w internecie w czasie rzeczywistym

„Sójka” działa błyskawicznie – wykrywa szkodliwe treści i blokuje je, zanim trafią do innych użytkowników. Może też współpracować z czatbotami i modelami językowymi, aby nie dopuszczać do generowania toksycznych odpowiedzi.

Próby obejścia systemu? Twórcy to przewidzieli. Model wykrywa nawet treści ukrywane przez emoji, zamienniki słów czy „kropkowanie” wyrazów. Uczy się tak samo jak cyberprzestępcy – na bieżąco.

Dlaczego „Sójka” jest potrzebna? Dane są alarmujące

To, że takie narzędzie jest potrzebne, pokazują statystyki. Problem hejtu dotyczy dziś przede wszystkim młodych użytkowników internetu.

Według danych NASK:

• 50 proc. nastolatków w Polsce doświadczyło przemocy słownej w internecie
• 70 proc. dzieci uważa hejt za największe zagrożenie w sieci
• 1 na 3 nastolatków spotyka się z zastraszaniem online

To nie są puste liczby – za każdą z nich stoi dziecko, które codziennie loguje się do świata pełnego agresji. I właśnie dlatego „Sójka” została zaprojektowana z myślą o ochronie najmłodszych użytkowników internetu.

Gdzie będzie używana „Sójka”?

„Sójka” jest już na finiszu testów. Za kilka dni każdy będzie mógł z niej skorzystać – za darmo. Później trafi do szkół, mediów, firm i instytucji. Celem zespołu Bielik.AI jest wprowadzenie „Sójki” do polskich szkół, by chroniła uczniów podczas nauki zdalnej oraz korzystania z internetu.

A jego twórcy proszą użytkowników o pomoc w udoskonaleniu nowej polskiej sztucznej inteligencji: -„(…) Każdy może ocenić działanie Sójki przez prosty feedback. Te dane pomagają nam dalej udoskonalać model.”- zaapelował na LinkeIdn Jan Maria Kowalski

Jedno raniące zdanie, jedno upokarzające zdjęcie albo jeden hejt potrafi zniszczyć pewność siebie dziecka na lata. Dziś młodzi ludzie żyją online. Tam dorastają, budują relacje, szukają wsparcia. Dlatego sieć musi być bezpieczna – tak samo jak szkoła czy dom.

FAQ – szybkie odpowiedzi o „Sójce”

• Czy „Sójka” naprawdę wykrywa hejt w internecie?
  Tak, analizuje kontekst językowy i blokuje szkodliwe treści w czasie rzeczywistym.
• Kto będzie mógł korzystać z „Sójki”?
  Najpierw testowo użytkownicy indywidualni, potem szkoły, media i platformy online.
• Czy ta polska sztuczna inteligencja jest bezpieczna?
  Twórcy zapewniają, że działa zgodnie z zasadami AI Safety i RODO.
• Ile będzie kosztować „Sójka”?
  Na start – ma być dostępna za darmo w wersji testowej.

Warto przeczytać: Dzieci pytały ChatGPT o rady. To, co usłyszały, przeraża badaczy

Nowy numer kwartalnika Holistic News — nowa promocja!

Do 31 października możesz skorzystać z darmowej dostawy paczkomatem.
Wpisz kod HNEWS0 finalizując zakupy w Księgarni Holistic News