Algorytm nie rozbierze już kobiet. Będą pozwy?

Historia DeepNude była krótka. Twórcy aplikacji „rozbierającej kobiety” przestraszyli się półmilionowej rzeszy użytkowników, którzy pobrali ich dzieło. To jeden z niewielu przypadków, w którym twórcy popularnej aplikacji postanowili zrezygnować z jej dalszego rozwoju

DeepNude w funkcjonowaniu wykorzystywała sieć neuronową, którą twórcy aplikacji „nauczyli” wyglądu nagich kobiet, tworząc bazę 10 tys. zdjęć nagich pań. W ten sposób każdy użytkownik za pomocą jednego kliknięcia mógł wgrać zdjęcie dowolnej kobiety, którą następnie rozbierał specjalny algorytm.

Kontrowersyjna „naga” aplikacja

Zainteresowanie aplikacją znacząco wzrosło po publikacji artykułu na portalu Vice 26 czerwca. Co ciekawe, autorka tekstu próbowała jej użyć do roznegliżowania zdjęć mężczyzn, ale technicznie nie było to możliwe. Rezultatem medialnego szumu był szybki wzrost popularności aplikacji, którą pobrało ponad 500 tys. osób; towarzyszyła temu jednak narastająca fala krytyki pod adresem jej twórców.

„To przerażający i destrukcyjny wynalazek i mam nadzieję, że twórcy poniosą odpowiednie konsekwencje” – napisała na Twitterze prezes Inicjatywy na rzecz Cybernetycznych Praw Obywatelskich (Cyber Civil Rights Initiative), Mary Anne Franks. W jej ocenie aplikacje tego typu pobłażają mężczyznom, którzy „chcą spełniać swoje najbardziej chore i groteskowe fantazje”.

Algorytm wymyka się spod kontroli

Sukces aplikacji stał się jednak powodem obaw, że może ona posłużyć do nadużyć. Problem stanowili użytkownicy, którzy mogli stosować DeepNude do tzw. revenge porn, czyli zemsty pornograficznej. Jest to zjawisko, w którym użytkownicy wykorzystują roznegliżowane zdjęcia swoich byłych partnerów do szantażu i umieszczają je w sieci.

Ostrzegała przed tym Katelyn Bowden, dyrektor organizacji Badass walczącej z revenge porn. „Za sprawą takiej aplikacji każda kobieta może stać się ofiarą szantażu i to nawet jeśli w ogóle nie zrobi sobie rozbieranych zdjęć. Ta aplikacja nie powinna być w ogóle dostępna” – podkreśliła.

Popularność źródłem kłopotów

W rezultacie aplikacja została zamknięta. Jej twórcy w oficjalnym komunikacie na Twitterze przyznali, że ilość użytkowników była zbyt duża, by mogli kontrolować jej wykorzystywanie. „Stworzyliśmy ten projekt kilka miesięcy temu w celach rozrywkowych (…). Wiemy jednak, że DeepNude nie jest aplikacją idealną i pracuje tylko z konkretnym typem zdjęć. Nie sądziliśmy, że stanie się ona viralem, że nie będziemy w stanie jej kontrolować” – napisali.

Pomimo zamknięcia projektu, jego twórcy zdają sobie sprawę, że aplikacja będzie jeszcze długo krążyła po sieci. W komunikacie zaznaczyli jednak, że nie będzie ona w żaden sposób promowana ani aktualizowana, a jej pobieranie będzie uznawane za sprzeczne z zasadami firmy. Nie można jednak wykluczyć pojawienia się pozwów, jeśli dojdzie do przypadków szantażu będących rezultatem użycia DeepNude. 

Źródła: Vice, Yahoo, Verge, Guardian