Ograniczenia ChatGPT dla nieletnich: AI zablokuje część treści

ChatGPT z nowymi regułami

OpenAI poinformował, że w Polsce i w całej Unii Europejskiej wprowadza nowe zasady korzystania z ChatGPT. Mają one ograniczyć generowanie wybranych treści przez dzieci i młodzież do 18. roku życia, zwiększając ochronę nieletnich w świecie online. Zmiany mają wejść w życie w najbliższych tygodniach.

Model sztucznej inteligencji będzie analizował konta wszystkich użytkowników. Na podstawie sygnałów powiązanych z profilem oceni, czy korzysta z niego osoba dorosła, czy nieletnia. Pod uwagę weźmie m.in. pory aktywności oraz tematy poruszane w rozmowach z narzędziem.

Ograniczenia w ChatGPT dla nieletnich: co zablokują?

Użytkownikom uznanym za nieletnich system automatycznie nałoży dodatkowe ograniczenia. W praktyce oznacza to, że dzieci nie będą mogły ani wyszukiwać, ani generować treści dotyczących:

promowania skrajnych standardów piękna, zawstydzania ze względu na wygląd czy niezdrowego odchudzania,
odgrywania ról o charakterze romantycznym, intymnym lub brutalnym,
internetowych wyzwań zachęcających do szkodliwych albo ryzykownych zachowań,
drastycznej przemocy i makabrycznych treści.

Pozostałe funkcje pozostaną bez zmian. Nieletni wciąż będą mogli korzystać z modelu do nauki, wyszukiwania bezpiecznych informacji i odpowiedniej rozrywki. Jeśli jednak spróbują wygenerować treści z listy zakazanych, ograniczenia ChatGPT dla nieletnich automatycznie zablokują taką możliwość.

Model źle oznaczył wiek? Odwołaj się

Model językowy to wciąż narzędzie, które – jak każdy system – może się pomylić. OpenAI przewidziało taką sytuację i przygotowało procedurę odwoławczą. Jeśli nowe zasady korzystania z ChatGPT obejmą także dorosłego użytkownika, firma zaleca złożenie odwołania.

Odwołanie można złożyć po zalogowaniu się do konta i przejściu weryfikacji wieku. Aby potwierdzić pełnoletność, użytkownik musi wybrać jedną z dwóch opcji: wykonać selfie albo przesłać skan dokumentu tożsamości, np. dowodu osobistego lub prawa jazdy. Proces weryfikacji prowadzi zewnętrzna firma i to do niej trafiają dane dotyczące daty urodzenia.

Jeśli potwierdzi, że masz ukończone 18 lat, ChatGPT usunie dodatkowe ustawienia bezpieczeństwa. Pełne zastosowanie tej zmiany może potrwać chwilę.

– czytamy na stronie OpenAI.com.

Nastolatki wchodzą w relacje z AI

Ochrona nieletnich w świecie online wchodzi na nowy poziom. Wpływ na to mają wyniki badań, które wykazały, że nastolatki nadmiernie korzystają z modeli językowych. Z analiz dr Jenny Radesky z University of Michigan oraz dr Jean Twenge z San Diego State University wynika, że część tych interakcji szybko przeradzała się w relacje o charakterze emocjonalnym, a nawet romantycznym.

Wyniki ich prac wskazały jasno: nawet 12-latki nawiązują relacje romantyczne z narzędziem sztucznej inteligencji. W wielu przypadkach zwykłe zauroczenie przekształcało się w kontakty intymne.

ChatGPT znajdzie Twoich znajomych

Może to zniekształcać obraz realnych relacji, w których ludzie nie zawsze są dostępni i często kierują się własnymi potrzebami, inaczej niż chatbot zaprojektowany tak, by koncentrować się wyłącznie na użytkowniku. Jednocześnie OpenAI zapowiada funkcję, która ma ułatwić kontakt z innymi już poza światem AI.

Chodzi o możliwość odnalezienia znajomych korzystających z ChatGPT. Firma wprowadziła opcję synchronizacji kontaktów, dzięki której użytkownik sprawdzi, kto z jego otoczenia używa narzędzia. Usługa jest dobrowolna, ale aby zobaczyć konkretne osoby, obie strony muszą wyrazić zgodę na połączenie.

Ograniczenia ChatGPT dla nieletnich: co to zmienia?

Ograniczenia korzystania z ChatGPT dla nieletnich to kolejny krok ku dobru dzieci i nastolatków. Już teraz w wielu krajach w Europie i na świecie dzieci do 15-16 roku życia nie mogą korzystać z mediów społecznościowych. Ma to za zadanie polepszyć ich zdrowie psychiczne. Mimo że obostrzenia sztucznej inteligencji nieco ograniczają ich działanie w sieci, nowe reguły paradoksalnie mogą dobrze wpłynąć na stan psychiczny dzieci i młodzieży – nawet jeśli one widzą to inaczej.

Warto przeczytać: Czy sztuczna inteligencja zastąpi Ci psa? Poznaj Moflina