Przeróbki zdjęć dzieci plagą w szkół! AI w rękach nastolatków wymyka się spod kontroli

Twarz 14-letniej dziewczynki wklejona w nagie ciało dorosłej kobiety. Taki wizerunek swojej koleżanki stworzyli przy pomocy sztucznej inteligencji uczniowie jednej ze szkół podstawowych. Materiał trafił do sieci, rozsyłali go między sobą jej rówieśnicy. Dla dziewczynki i jej rodziny był to osobisty dramat.

To tylko jeden z wielu przypadków. Jakiekolwiek wykorzystywanie wizerunków dzieci w sytuacjach naruszających ich godność jest złe. Wykorzystywanie w kontekście seksualnym to dla nich ogromna krzywda i zagrożenie dla zdrowia zarówno psychicznego jak i fizycznego! A narzędzi do łatwego tworzenia zmodyfikowanych wizerunków będzie tylko przybywać.

Badania przeprowadzone przez UNICEF, ECPAT i INTERPOL w 11 krajach wykazały, że co najmniej 1,2 mln dzieci przyznało, że ich zdjęcia zostały poddane manipulacji i stworzono z nich seksualne deepfake’i.

Jakie zmiany są potrzebne?

Bezpieczny i prawidłowy rozwój dzieci powinien być dla odpowiedzialnego społeczeństwa priorytetem ponad podziałami i bieżącą polityką. Dlatego Stowarzyszenie Twoja Sprawa apeluje do Premiera i Ministra Cyfryzacji, aby w ramach przygotowywanych obecnie nowych projektów ustaw wdrażających DSA, uwzględnili dwie zmiany, niezbędne dla ochrony dzieci w internecie. Stowarzyszenie jednocześnie apeluje do Prezydenta o poparcie takich rozwiązań.

O jakie zmiany chodzi?

Po pierwsze, Urząd Komunikacji Elektronicznej powinien mieć możliwość niezwłocznego nakazania usunięcia następujących treści godzących w dobro dzieci:

• Tak zwany „deepfake” polegający na zmanipulowaniu prawdziwego lub przetworzonego wizerunku dziecka poprzez umieszczeniu takiego wizerunku w kontekście seksualnym (na przykład „doklejenie” twarzy dziecka w filmie lub obrazach pokazujących nagie ciała, nawet jeżeli nie są one typową pornografią);
• Zdjęcia lub filmy pokazujące rzeczywiste sytuacje intymne, na przykład w szatniach i toaletach szkolnych. Jest to obecnie częsty sposób na prowokowanie hejtu, ośmieszenia i stygmatyzacji w środowisku rówieśniczym.
• Przedstawienie rzeczywistego wizerunku dziecka w kontekście seksualnym, na przykład z gadżetami erotycznymi, w wyzywającej bieliźnie, ukazująca nagość skoncentrowaną na miejscach intymnych, czy też uchwycone w pozycjach, które budzą wyraźne skojarzenia seksualne.

Po drugie, decyzje UKE nakazujące usunięcie niektórych treści nielegalnych powinny być natychmiast wykonalne. Należy rozważyć jak najszybszą ścieżkę reagowania. W innym przypadku, krzywdzący materiał pozostanie w sieci i będzie służył traumatyzowaniu dzieci przez bardzo długi czas, który może trwać od 14 dni w trakcie których UKE musi czekać na ewentualne zgłoszenie sprzeciwu, do nawet kilku lat, jeżeli sprawa trafi do sądu.

Stowarzyszenie Twoja Sprawa uważa, że zmiany te powinny być objęte odrębnym projektem ustawy, zawężonym tylko i wyłącznie do spraw, wokół których jest pełny konsensus polityczny. Projekt ten powinien dotyczyć jedynie materiałów bezpośrednio godzących dobro dzieci, takich jak te, o których mowa w apelu Stowarzyszenia Twoja Sprawa. Jedynie w takim przypadku dojdzie do szybkiego ich uchwalenia.

Wierzymy, że politycy mogą wspólnie chronić dzieci odkładając na bok spory polityczne

- uważa Urszula Sowińska z zarządu Stowarzyszenia Twoja Sprawa.

Stowarzyszenie stoi na stanowisku, że w odniesieniu do wymienionych powyżej treści nie ma zagrożenia naruszania wolności słowa. Zmiany nie wkraczają w obszary, o które spierają się politycy.

Należy wdrożyć te propozycje. Zbyt długo czekamy na skuteczne rozwiązania legislacyjne. Stańmy wspólnie w obronie dzieci!

- apeluje Katarzyna Nowicka, Dyrektor Zarządzająca Stowarzyszenia Twoja Sprawa.