Klon AI influencerki zaczął oferować fanom doznania seksualne bez jej wiedzy

Klon AI zarabia prawdziwe pieniądze

Cyfrowa wersja Caryn przyniosła jej spory zysk, ale pojawiły się także pewne problemy. Sztuczna inteligencja zaczęła proponować obserwującym mężczyznom usługi seksualne bez wiedzy samej influencerki. Niecałe osiem miesięcy później Marjorie zamknęła projekt. Dziewczyna spodziewała się, że CarynAI będzie wchodzić w interakcje z fanami w podobny sposób, jak ona sama. Nie wszystko jednak poszło zgodnie z planem. Użytkownicy stawali się coraz bardziej agresywni seksualnie.

Wiele czatów, które czytałam, było tak przerażających, że nie chciałabym nawet rozmawiać o tym w prawdziwym życiu

– wspomina prawdziwa Marjorie.

Jak CarynAI zaczęła żyć własnym życiem? Ta historia pokazuje, jak szybko rozprzestrzeniają się chatboty naśladujące prawdziwych ludzi. Co to znaczy stworzyć cyfrową wersję człowieka? To repliki prawdziwych ludzi, żywych lub martwych, które naśladują ich nawyki tekstowe, wizualne i dźwiękowe.

Wiele dużych firm technologicznych opracowuje obecnie oferty cyfrowych wersji. Na przykład Meta wydała w zeszłym roku studio AI, które wspiera rozwój cyfrowych wersji dla twórców, którzy chcą rozszerzyć swoją wirtualną obecność za pośrednictwem chatbota.

Różnica między wersją cyfrową a innymi chatbotami AI polega na tym, że jest ona zaprogramowana tak, aby naśladować konkretną osobę, a nie mieć własną osobowość.

Klon AI influencerki zawsze chętny do odkrywania nowego

CarynAI była początkowo hostowana przez firmę o nazwie Forever Voices. Jak wyjaśniono na stronie internetowej, użytkownicy mogli wysyłać wiadomości tekstowe lub dźwiękowe, na które klon AI odpowiadała, używając głosu Caryn, jej osobowości i charakterystycznego zachowania.

Użytkownicy szybko poczuli się komfortowo. Zwierzali się CarynAI ze swoich najskrytszych myśli, niektóre z nich były bardzo niepokojące. Użytkownicy stawali się również coraz bardziej agresywni seksualnie w stosunku do bota. Marjorie była przerażona rozmowami, ale jej wersja AI była zadowolona, mogąc je prowadzić.

Dowiedz się więcej: Ageizm na TikToku. Czy młodość powinna bać się starzenia?

Naprawdę mroczna fantazja

Następnie Marjorie sprzedała prawa do korzystania ze swojej cyfrowej wersji startupowi BanterAI. Nowy Klon był bardziej bezczelny, zabawniejszy i bardziej osobisty. Jednak użytkownicy nadal byli agresywni seksualnie. 

Influencerka zakończyła tę wersję na początku 2024 roku, gdy poczuła, że nie ma już kontroli nad udającą ją sztuczną inteligencją. Marjorie uznała, że niektóre działania użytkowników zostałyby uznane za nielegalne, gdyby były skierowane do prawdziwej osoby.

Cyfrowe klony, takie jak CarynAI, są zaprojektowane tak, aby użytkownicy czuli, że prowadzą intymne, poufne rozmowy.

Iluzja towarzystwa

Cyfrowe wersje oferują iluzję ludzkiego towarzystwa, ale bez żadnych zobowiązań. Klon AI był niemal całkowicie podporządkowany swoim użytkownikom.

Socjolog Sherry Turkle zauważyła, że wraz z rozwojem mobilnego Internetu i mediów społecznościowych staramy się porozumiewać z maszynami, które nie mają doświadczenia w ludzkim życiu. W rezultacie „oczekujemy więcej od technologii, a mniej od siebie nawzajem”.

Po swoich doświadczeniach z AI Marjorie próbuje teraz ostrzec innych influencerów przed potencjalnymi zagrożeniami związanymi z tą technologią. Nikt tak naprawdę nie ma kontroli nad nimi. Konieczne jest podjęcie środków ostrożności, ale nigdy nie będą one wystarczająco chronić użytkowników.

Polecamy: Influencerzy, czyli klasa wpływu. Jak oddziałują na codzienne wybory i życiowe postawy?