Unia Europejska zakazuje pornograficznych deepfake'ów. Polska policja ostrzega przed nową plagą

• Europosłowie pracują nad zablokowaniem możliwości generowania cyfrowych fałszywek o podłożu intymnym, chroniąc tym samym celebrytów oraz najmłodszych użytkowników sieci.
• Statystyki pokazują przerażający obraz sytuacji, w której niemal wszystkie wygenerowane materiały mają charakter pornograficzny i uderzają głównie w kobiety, a ponad milion nieletnich doświadczyło tego typu nadużyć.
• Funkcjonariusze w naszym kraju odnotowują lawinowy przyrost spraw związanych z wykorzystaniem sztucznej inteligencji do wymuszeń finansowych oraz rozpowszechniania treści w kręgach przestępców seksualnych.
• Poszkodowani powinni bezzwłocznie powiadomić organy ścigania o incydencie, natomiast w sprawach dotyczących dzieci zaleca się dodatkowe użycie specjalnego narzędzia Take It Down.

Parlament Europejski szykuje przepisy. Koniec z pornografią generowaną przez AI

Decyzja dotycząca nowych regulacji mających powstrzymać falę internetowych nadużyć zapadnie podczas czwartkowego posiedzenia Parlamentu Europejskiego. Głosowanie całego zgromadzenia będzie dotyczyło całkowitego zablokowania możliwości tworzenia realistycznych filmów i zdjęć pornograficznych przy użyciu sztucznej inteligencji. Projekt ten został już w marcu zaakceptowany przez Komisję wolności obywatelskich, sprawiedliwości i spraw wewnętrznych. Ewentualne wejście w życie tych przepisów będzie stanowiło bardzo wyraźne ostrzeżenie dla firm technologicznych oraz serwisów oferujących tego typu oprogramowanie.

Podjęcie zdecydowanych kroków prawnych zostało przyspieszone po publikacji raportu przygotowanego przez Center of Countering Digital Hate. Eksperci dokładnie przeanalizowali funkcjonowanie chatbota Grok, który należy do firmy Elona Muska zarządzającego serwisem X. Zaledwie w ciągu jedenastu dni program ten stworzył blisko trzy miliony pikantnych grafik wykorzystujących twarze popularnych kobiet. Oprogramowanie bezprawnie przetworzyło wizerunki amerykańskiej wiceprezydent Kamali Harris oraz gwiazd muzyki pop takich jak Billie Eilish i Taylor Swift.

Deepfake uderza w kobiety i dzieci. Szokujące statystyki nadużyć

Kłopoty z cyfrowymi fałszywkami wykraczają daleko poza jeden konkretny program komputerowy. Obecnie tworzenie nieprawdziwych materiałów wizualnych stało się zjawiskiem masowym uderzającym w zdecydowanej większości w kobiety, co jasno wynika z analizy opublikowanej przez Home Security Heros. Badacze przyjrzeli się ponad 95 tysiącom wygenerowanych nagrań wideo i odkryli, że aż 98 procent z nich stanowiły treści pornograficzne z udziałem pań. Obecnie do wyprodukowania minutowego nagrania z podłożoną twarzą wystarczy jedno wyraźne zdjęcie ofiary i niespełna pół godziny pracy.

Największy niepokój budzą jednak informacje dotyczące najmłodszych użytkowników internetu. W zeszłym roku brytyjska fundacja Internet Watch Fundation wykryła ponad osiem tysięcy wygenerowanych komputerowo plików ukazujących niezwykle realistyczne sceny wykorzystywania nieletnich. Badania przeprowadzone wspólnie przez INTERPOL, ECPAT oraz UNICEF w jedenastu państwach dowodzą, że aż 1,2 miliona dzieci widziało swój wizerunek przerobiony na intymne nagrania. Statystyki z niektórych krajów pokazują, że ofiarą takich działań pada średnio jeden uczeń w każdej szkolnej klasie.

Polska policja walczy z cyberprzestępczością. Oszuści mają konkretny cel

Podobne problemy stają się coraz bardziej widoczne na naszym rodzimym podwórku. W rozmowie z Polską Agencją Prasową komisarz Marcin Zagórski z Centralnego Biura Zwalczania Cyberprzestępczości poinformował, że polscy mundurowi przejmują ogromne ilości zakazanych plików stworzonych przez zaawansowane algorytmy. Chociaż odpowiednie służby nie dysponują jeszcze szczegółowymi statystykami, to rzecznik jasno podkreśla skalę zjawiska.

„– Z roku na rok to zjawisko jest coraz bardziej powszechne i sprzyja temu, chociażby dostępność narzędzi, jakim jest sztuczna inteligencja – stwierdził komisarz Zagórski.”

Jak się okazuje, spreparowane pliki wideo służą przestępcom do realizacji wielu różnych celów zarobkowych. Fałszywe materiały intymne są masowo stosowane przez oszustów do wyłudzania pieniędzy oraz zdobywania poufnych danych czy prowadzenia brutalnego szantażu. Przedstawiciel CBZC zaznacza jednocześnie, że wygenerowane komputerowo nagrania z udziałem ofiar trafiają najczęściej do zamkniętych grup zrzeszających osoby o skłonnościach pedofilskich.

Gdzie zgłosić deepfake? Działania w przypadku naruszenia wizerunku

Osoby poszkodowane przez twórców fałszywych treści pornograficznych powinny reagować błyskawicznie i nie bagatelizować problemu. Przedstawiciel Centralnego Biura Zwalczania Cyberprzestępczości apeluje, aby każdy taki przypadek natychmiast zgłaszać na najbliższym komisariacie policji w celu rozpoczęcia oficjalnego śledztwa. Śledczy dysponują narzędziami pozwalającymi ustalić tożsamość autora oraz dystrybutora nielegalnych materiałów w sieci. Jeśli sprawa dotyczy osoby niepełnoletniej, należy dodatkowo skorzystać ze specjalistycznej platformy Take It Down, która za darmo pomaga w usuwaniu szkodliwych treści z serwerów i blokuje ich dalsze rozprzestrzenianie.