Sztuczna inteligencja jako narzędzie oszustów. Ogromne straty Polaków i tysiące fałszywych reklam

Tysiące reklam stworzonych przez AI

Najnowsze ustalenia NASK dobitnie pokazują skalę przestępczej działalności w sieci. Przeprowadzony pod koniec ubiegłego roku pięciotygodniowy monitoring reklam przyniósł zatrważające rezultaty.

Wykryto aż 16 tys. fałszywych materiałów wygenerowanych przy pomocy sztucznej inteligencji. Do ich stworzenia użyto wizerunków około 450 osób bez ich zgody.

Ewelina Bartuzi-Trokielewicz, kierująca zakładem analiz audiowizualnych w NASK PIB, podkreśliła, że szacowane koszty poniesione przez Polaków w wyniku tych oszustw sięgają około 537 mln zł.

Sztuczna inteligencja daje oszustom niespotykane dotąd możliwości. Algorytmy pozwalają na masową produkcję reklam, modyfikowanie twarzy, głosów i wypowiedzi, a także na precyzyjne targetowanie kolejnych ofiar.

Wizerunki znanych osób wykorzystywane bez zgody

Jedną z ofiar tego procederu jest Rafał Brzoska, szef firmy InPost. Oszuści tworzą reklamy sugerujące, że przedsiębiorca rekomenduje ich usługi lub namawia do określonych inwestycji.

Brzoska aktywnie sprzeciwia się tym praktykom. Razem z twórcami kampanii „150%” wziął pod lupę zasoby reklamowe platformy Meta, badając około 2 milionów takich materiałów.

Przedsiębiorca zarzucił firmie Meta, zarządzającej m.in. Facebookiem i Instagramem, zbyt słabe reagowanie na zgłaszane oszustwa. Zwrócił uwagę, że usunięcie jednej fałszywej reklamy często skutkuje natychmiastowym pojawieniem się innej, co znacznie utrudnia badanie rzeczywistej skali procederu.

Pomimo zapadających decyzji sądów i Urzędu Ochrony Danych Osobowych, fałszywe reklamy z wizerunkiem Brzoski wciąż można znaleźć w internecie.

Komisja Europejska bada sprawę Mety

Problem zyskał rangę międzynarodową. Minister cyfryzacji Krzysztof Gawkowski złożył wniosek do Komisji Europejskiej o nałożenie na firmę Meta kary w wysokości 250 milionów euro, zarzucając jej opieszałość w blokowaniu fałszywych treści.

Z kolei Rafał Brzoska proponuje wprowadzenie drastycznych sankcji dla platform społecznościowych tolerujących oszustwa. Jego pomysł zakłada karę w wysokości 150 procent zysków pochodzących z emisji takich reklam.

System DROZD do walki z deepfake'ami

Technologia wkracza do walki z oszustami. NASK przygotował system o nazwie DROZD, który ma za zadanie identyfikować deepfake’i i inne formy manipulacji obrazem lub dźwiękiem.

Narzędzie to analizuje m.in. nagrania wideo, ścieżki dźwiękowe oraz transkrypcje wypowiedzi. Gromadzi również wyniki tych analiz i tworzy specjalną bazę danych z wzorcami osób publicznych.

To istotne, ponieważ przestępcy rzadko kreują materiały od zera. Zazwyczaj łączą autentyczne zdjęcia, filmy i nagrania z fragmentami wygenerowanymi przez sztuczną inteligencję, tworząc niezwykle przekonujące falsyfikaty.

Profesjonalne organizacje przestępcze

To już nie są amatorskie działania pojedynczych naciągaczy. NASK ostrzega, że w internecie funkcjonują wyspecjalizowane organizacje przypominające korporacje. Mają one oddzielne działy odpowiedzialne za tworzenie materiałów, marketing, infrastrukturę technologiczną i bezpośrednie wyłudzanie środków.

AI stanowi dla nich kolejne, potężne narzędzie pracy. Dlatego internauci powinni być wyjątkowo czujni. Fakt, że dana osoba publiczna promuje jakiś produkt w reklamie, wcale nie musi być prawdą.

Nierozważne kliknięcie w fałszywą reklamę może skończyć się utratą wszystkich oszczędności.