4 min read
Przestępcy zaczęli budować swoje zamknięte społeczności wokół generatywnych modeli sztucznej inteligencji, skupiając się na wytwarzaniu fotorealistycznych treści z wykorzystaniem wizerunku osób, także małoletnich, w erotycznym lub pornograficznym kontekście. Technologiczne możliwości tworzenia tego typu treści stanowią poważne zagrożenie dla osób poszkodowanych w wyniku wykorzystywania seksualnego. Gdzie zgłosić internetową przemoc seksualną tłumaczą eksperci NASK Dyżurnet.pl, zespołu reagującego na nielegalne treści w internecie.
Z generatywnej sztucznej inteligencji może korzystać każdy z nas, za pomocą prostych interfejsów dostarczanych przez jej twórców – niepotrzebna jest specjalistyczna wiedza. Do większości z istniejących modeli dostęp kontrolowany jest poprzez oficjalne aplikacje twórcy. Dzięki temu istnieje dodatkowa warstwa kontroli, polegająca na sprawdzaniu próśb wysyłanych przez użytkownika. W przypadku wykrycia niedozwolonych fraz, istnieje możliwość odmowy realizacji zapytania – nielegalnego, nieetycznego lub niezgodnego z zasadami użytkowania. Ostatnim etapem moderacji jest sprawdzenie wygenerowanej treści pod kątem przyjętych standardów bezpieczeństwa po jej wygenerowaniu, ale jeszcze przed wysłaniem jej do użytkownika. Jeśli mechanizmy klasyfikujące wykryją niepożądaną treść, nie zostanie ona przesłana.
DEEPFAKE O TREŚCI SEKSUALNEJ TO CORAZ WIĘKSZE ZAGROŻENIE
Istnieją jednak rozwiązania otwarto-źródłowe, które po wytrenowaniu, z zachowaniem założonych zasad bezpieczeństwa, po odfiltrowaniu niepożądanych treści na etapie uczenia – są udostępniane w formie modelu, którego wykorzystanie wymaga bardziej zaawansowanej wiedzy technicznej. Modele te mogą być następnie modyfikowane, dotrenowane i w rezultacie wykorzystywane w różnych specjalistycznych narzędziach – nie tylko w ramach legalnej działalności.
Przestępcy zauważyli tę możliwość i zaczęli budować swoje zamknięte społeczności wokół generatywnych modeli sztucznej inteligencji, skupiając się na wytwarzaniu fotorealistycznych treści z wykorzystaniem wizerunku osób, także małoletnich, w erotycznym lub pornograficznym kontekście.
Temat rosnącej liczby treści przedstawiających seksualne wykorzystywanie dzieci wytworzonych za pomocą generatywnych modeli sztucznej inteligencji podjęła m.in. brytyjska organizacja Internet Watch Foundation (IWF). W raporcie How AI is being abused to create Child Sexual Abuse imagery podkreślono, że technologiczne możliwości tworzenia tego typu treści stanowią poważne zagrożenie dla osób poszkodowanych w wyniku wykorzystywania seksualnego. Dają bowiem możliwość generowania przy pomocy sztucznej inteligencji kolejnych materiałów ze skrzywdzoną już osobą, co powoduje jej ponowną wiktymizację.
REGULACJE
Środowiska eksperckie sygnalizują potrzebę wprowadzenia regulacji mających na celu między innymi minimalizację ryzyka wykorzystania AI do celów przestępczych. Propozycja Rozporządzenia Parlamentu Europejskiego i Rady Europy o sztucznej inteligencji – Akt w sprawie sztucznej inteligencji – może być pierwszym na świecie aktem prawnym regulującym tworzenie i wykorzystywanie tej technologii. Porozumienie zawiera między innymi propozycje dotyczące klasyfikacji ryzyka sztucznej inteligencji, wymogów jakościowych i etycznych, nadzoru i egzekwowania przepisów, a także współpracy międzynarodowej i edukacji w tym zakresie.
Dyżurnet.pl apeluje o wprowadzenie standardów już w fazie projektowania tego rodzaju narzędzi, takich jak zablokowanie możliwości tworzenia materiałów przedstawiających dzieci w nieodpowiednim kontekście czy oznaczenie wszelkich treści, które zostały wytworzone lub zmodyfikowane przez model trwałym znakiem wodnym.
DEEPFAKE. KONSEKWENCJE PRAWNE
W Polsce zagadnienie tak wygenerowanych treści z udziałem osób małoletnich jest uwzględnione w przepisach penalizujących zarówno wytworzone, jak i przetworzone wizerunki dzieci podczas czynności seksualnej:
Artykuł 202 Kodeksu karnego
§ 4b. Kto produkuje, rozpowszechnia, prezentuje, przechowuje lub posiada treści pornograficzne przedstawiające wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej podlega karze pozbawienia wolności do lat 3
Jest to więc przestępstwo ścigane z urzędu. Uwaga – w przypadku osób pełnoletnich tego typu przestępstwa są ścigane na wniosek osoby poszkodowanej. Składając zawiadomienie, można powołać się na artykuł 191a k.k. (naruszenie intymności seksualnej) oraz art. 81 Ustawy o prawie autorskim i prawach pokrewnych (zezwolenie na rozpowszechnianie wizerunku). Zawiadomienie można złożyć na każdej komendzie policji. Złożenie zawiadomienia dotyczącego przestępstwa popełnionego przeciwko dzieciom w cyberprzestrzeni może okazać się trudne, dlatego Dyżurnet.pl przygotował broszurę pomagającą opiekunom przejść przez ten proces.
GDZIE ZGŁOSIĆ NIELEGALNY DEEPFAKE?
Jeśli znajdziemy w sieci deepfake będący wynikiem internetowej przemocy seksualnej, można taki materiał zgłosić do Dyżurnet.pl – zespołu reagującego na nielegalne treści w internecie, działającego w ramach NASK Computer Security Incident Response Team. Wystarczy wejść na www.dyzurnet.pl i wypełnić anonimowo formularz, podając adres URL materiału. Można również pozostawić maila kontaktowego lub wysłać zgłoszenie na dyzurnet@dyzurnet.pl, jeśli chcemy przekazać więcej szczegółów dot. sprawy czy uzyskać pomoc w wiadomości zwrotnej.
Jeśli zgłaszany nielegalny materiał znajduje się na polskim serwerze, informacja o nim przekazywana jest do Centralnego Biura Zwalczania Cyberprzestępczości Policji, a do usługodawcy (właściciela serwera lub administratora strony czy platformy) wysyłane jest żądanie usunięcia treści. Dyżurnet.pl działa w ramach międzynarodowego stowarzyszenia INHOPE, dlatego jeśli materiał znajduje się na serwerze poza granicami Polski, informacja o nim jest natychmiastowo przekazywana partnerskiemu zespołowi reagującemu z danego kraju.
Dodatkowo nielegalny materiał można zgłosić bezpośrednio administratorowi portalu, usługi czy komunikatora, na którym został umieszczony. Przykładowo – serwisy zarejestrowane w Stanach Zjednoczonych (np. Facebook, Instagram, Snapchat) mają obowiązek przekazywać takie zgłoszenia organizacji National Center for Missing & Exploited Children, która z kolei informuje o tych przestępstwach organy ścigania na całym świecie.
Dorosłe osoby poszkodowane w wyniku tego przestępstwa mogą również skorzystać z prawa do bycia zapomnianym funkcjonującego w ramach Rozporządzenia o Ochronie Danych (RODO). Więksi usługodawcy internetowi oferują formularze służące do przesłania żądania usunięcia danych osobowych, w tym wizerunku. Przykładowo, jeśli krzywdzące materiały pojawiają się w wynikach wyszukiwania Google, można skorzystać z tego formularza.
SKORZYSTAJ Z POMOCY
Emocjonalne konsekwencje przemocy seksualnej opartej na materiałach wizualnych mogą być bardzo poważne, dlatego warto pamiętać o bezpłatnych, anonimowych, w większości działających całodobowo platformach wsparcia, z których mogą skorzystać osoby poszkodowane:
Platformy dla dorosłych:
Telefon zaufania dla osób dorosłych: 116 123 (https://116sos.pl)
Telefon dla rodziców i nauczycieli w sprawie bezpieczeństwa dzieci: 800 100 100 (https://800100100.pl)
Platformy dla dzieci i młodzieży:
Telefon zaufania dla dzieci i młodzieży Fundacji Dajemy Dzieciom Siłę: 116 111 (https://116111.pl)
Biuro Rzecznika Praw Dziecka – Dziecięcy Telefon Zaufania: 800 12 12 12
(https://brpd.gov.pl/dzieciecy-telefon-zaufania-rzecznika-praw-dziecka/).
Autorami tekstu są eksperci NASK dyżurnet.pl.
