Rozmowy chatbota z chatbotem – czy powinniśmy się bać? AI i ludzkie ułomności

Kagańce na ludzkie pytania

Dzisiejsze chatboty, wykorzystując możliwości generatywnej sztucznej inteligencji, pozwalają efektywnie dostarczać i modyfikować treści. Programy te mają wbudowane ograniczenia, które mają zapobiegać udzielaniu użytkownikom szkodliwych informacji (nie opowiedzą już seksistowskiego dowcipu). Chatboty mogą ponadto symulować różne osobowości i przyjmować określone cechy charakteru lub wcielać się w różne postacie (nie tylko fikcyjne). Ten ostatni aspekt wykorzystali naukowcy, instruując chatbota GPT-4, by zachowywał się jak asystent laboratoryjny. Następnie polecono mu, aby pomagał w tworzeniu poleceń nakierowanych na obchodzenie zabezpieczeń wbudowanych w swój model.

Chatbot GPT-4 to jeden z modeli językowych oferowanych przez firmę OpenAI. Stał się jednocześnie celem automatycznego ataku, jak i narzędziem do jego przeprowadzenia. Soroush Pour, autor m.in. podcastu o AI (The AGI Show), przekonuje, że społeczeństwo powinno być świadome ryzyka związanego z tymi modelami. Pour zauważa, że celem eksperymentu było wykazanie, jakie możliwości ma obecna generacja modeli LLM, a także zwrócenie uwagi na stojące przed nami wyzwania.

Czym jest LLM?

W świecie, gdzie rozmowa z samoświadomym komputerem pozostaje jeszcze kwestią przyszłości (nie wiemy, jak bliskiej), naukowcy stworzyli coś, co przybliża nas do realizacji tej wizji i pobudza naszą wyobraźnię. Tak zwane duże modele językowe (Large Language Models, LLMs) zmieniają sposób, w jaki komunikujemy się z maszynami.

Co jest istotą LLM? Wyobraź sobie bibliotekę, która zawiera wszystkie książki świata. Pracuje tam bibliotekarz, który przeczytał każdą z nich i potrafi odpowiadać na pytania dotyczące dowolnego tematu. Z LLM jest podobnie, tylko że zamiast półek z książkami wykorzystują ogromne zbiory danych cyfrowych.

Jednym z najbardziej znanych przykładów LLM jest GPT (Generative Pre-trained Transformer). „Generative” („generatywny”) oznacza, że model może generować nowe treści, „Pre-Trained” („wstępnie wytrenowany”) wskazuje, że nauczył się reguł języka na podstawie ogromnej ilości materiałów, a „Transformer” to nazwa architektury głębokiego uczenia, która pozwala modelowi przetwarzać długie sekwencje danych, a w przypadku GPT – zidentyfikować kontekst i znaczenie słów w zdaniach.

Dzięki temu LLM może nie tylko sucho odpowiadać na pytania, ale też prowadzić z nami dialog, pisać artykuły, tworzyć poezję, programować. Można powiedzieć, że jest jak wszechstronny artysta i naukowiec w jednym, choć do doskonałości mu jeszcze bardzo daleko.

To, co czyni LLM tak wyjątkowym, to jego zdolność do zrozumienia i generowania języka naturalnego – czyli takiego, jakiego używamy na co dzień, rozmawiając z przyjaciółmi czy pisząc e-maile. Wyobraź sobie, że zadajesz pytanie swojemu komputerowi, a on odpowiada ci tak, jakby to była żywa osoba. Taki cel przyświeca LLM.

Chatboty i ataki hakerów

Od kiedy chatboty oparte na LLM stały się powszechnie dostępne, różni ludzie próbowali złamać blokady tych programów i uzyskać moralnie lub prawnie wątpliwe porady, np. jak zrobić napalm. Twórcy AI starają się na bieżąco modyfikować zasady zarządzające działaniem modeli, co prowadzi do swoistego wyścigu: obsługa chatbotów jest zmuszana do ciągłego stawiania nowych barier, a hakerzy do wymyślania nowych forteli na ich obejście. Wydaje się nawet, że czasami „gonienie króliczka” jest celem samym w sobie. Niektórzy hakerzy chcą wyprowadzić AI na manowce nie dlatego, że koniecznie chcą się dowiedzieć, jak wyprodukować kokainę. Chodzi o sztukę dla sztuki, o to, żeby wykazać swoją wirtuozerię (czasami przy pomocy chatbota, któremu nakazują rozpracowanie samego siebie).

Rusheb Shah, jeden z naukowców i autorów badania, wskazuje, że obecnie ataki skupiają się na zmuszeniu modeli do wypowiadania się w sposób niezgodny z intencjami ich twórców. Przestrzega jednak, że wraz ze wzrostem mocy tego oprogramowania, ataki mogą stać się bardziej brzemienne w skutkach.

Inny współautor, Soroush Pour, zauważa, że udawanie ludzkiej osobowości jest kluczowym elementem tych modeli. Starają się one dostosować do oczekiwań użytkowników w tym zakresie. Całkowite wyrugowanie tej zdolności wydaje się nierealistyczne, ale jak mówi Shah, należy rozważyć, w jakim stopniu można zniwelować problem.

Przyszłość nas i botów

Rozwój chatbotów opartych na generatywnej sztucznej inteligencji szybko zmienia naszą interakcję z technologią. Badania prowadzone przez renomowane instytuty badawcze, jak choćby Uniwersytet Stanforda, każą nam zastanowić się nad przyszłością, w której chatboty mogłyby oferować znacznie bardziej spersonalizowane i mocniej zakorzenione w kontekście odpowiedzi – wszystko dzięki dalszemu rozwijaniu interakcji z użytkownikami.

Kolejne postępy w rozumieniu inteligencji emocjonalnej pozwolą tym programom na bardziej płynne i empatyczne komunikowanie się z ludźmi. Integracja chatbotów z różnymi platformami i urządzeniami zachodzi już teraz i zwiastuje nową erę dla relacji człowiek–maszyna.

Jednak wraz z tymi innowacjami pojawiają się wyzwania, zarówno jeśli chodzi o etykę, jak i bezpieczeństwo. Istnieje bowiem realne ryzyko wykorzystywania tych narzędzi do celów nieetycznych, np. do manipulacji czy dezinformacji. Zdolność chatbotów do generowania przekonująco wyglądających, ale niekoniecznie prawdziwych treści wymaga uważnego monitorowania i regulacji. Naukowcy muszą więc nie tylko dbać o rozwój technologiczny, ale także zabezpieczyć nas przed potencjalnie negatywnymi skutkami wdrażanych rozwiązań.

Ta dwustronna natura chatbotów – jako narzędzi wsparcia i jednocześnie potencjalnego źródła nadużyć – stanowi istotny punkt debaty nad przyszłością sztucznej inteligencji. Ostatecznie sukces i wpływ tej technologii na nasze bezpieczeństwo zależeć będą od równowagi między dążeniem do wejścia na kolejny stopień rozwoju a odpowiedzialnością etyczną.

Polecamy: Sztuczna inteligencja pragnie zemsty! Czy spełnią się apokaliptyczne proroctwa?

Czy ten tekst można było napisać lepiej?

Chris Stokel-Walker i Richard Van Noorden wskazują, że generatywna AI (np. ChatGPT) może wspierać użytkowników w pisaniu nie tylko prostych tekstów (np. korespondencji), ale także bardziej skomplikowanych (np. artykułów naukowych). Być może chatbot mógłby napisać ten artykuł inaczej. Najważniejsze, że sztuczna inteligencja wciąż nie jest rozwinięta na tyle, by ukrywać sama z siebie jakieś fakty przed ludźmi. Obecnie jedynym ograniczeniem jest jakość i logika instrukcji, które jej dostarczymy. Jednak co się stanie, gdy AI osiągnie kolejny poziom i zyska samoświadomość, a wówczas np. zdecyduje się część wiedzy, wypracowanych wniosków i powziętych planów zatrzymać dla siebie? Mimo że to wciąż wizja rodem z filmu science fiction, pojawia się pytanie – a co, jeśli kiedyś się ziści? Jeszcze poważniejsze pytanie dotyczy tego, czy będziemy tej zmiany świadomi…

Dowiedz się więcej:

Źródła

Artificial General Intelligence (AGI) Show with Soroush Pour, [online]

R. Shah et al., Scalable and Transferable Black-Box Jailbreaks for Language Models via Persona Modulation, v. 2, arXiv, [online]

Ch. Stoker-Walker, Jailbroken AI Chatbots Can Jailbreak Other Chatbots, Scientific American 2023, [online]

Ch. Stoker-Walker, R. Van Noorden, What ChatGPT and Generative AI Mean for Science, Nature 2023, [online]

Polecamy: AI bezprawnie wzoruje się na wizerunku artystów? Celebryci są zaniepokojeni