Fałszywe nagranie zamachowca z Krakowa. Eksperci wykazali manipulację sztucznej inteligencji

Zamach w Krakowie i fałszywe wideo stworzone przez sztuczną inteligencję

Tuż po dramatycznych wydarzeniach w stolicy Małopolski w przestrzeni internetowej zapanował chaos, a na platformach społecznościowych błyskawicznie zyskał popularność krótki filmik. Użytkownicy sieci od razu uznali widocznego w kadrze mężczyznę za sprawcę krakowskiego ataku. Postać z nagrania spogląda w kamerę i wypowiada słowa „Dzisiaj będę palił lufkę i zrobię coś złego”. Materiał ten stał się natychmiastowym impulsem do snucia teorii spiskowych oraz formułowania oskarżeń o charakterze politycznym.

Komentujący w internecie zaczęli publicznie dociekać, dlaczego służby nadzorowane przez szefa MSWiA Marcina Kierwińskiego nie zareagowały wcześniej, skoro napastnik miał otwarcie ogłaszać swoje plany w sieci.

Sprawę postanowiła dokładnie zbadać redakcja portalu Konkret24. Dziennikarze tego serwisu ustalili, że wideo z domniemanym zamachowcem zapowiadającym zbrodnię to klasyczny fake news, który od podstaw wygenerowała sztuczna inteligencja.

Jak eksperci z Konkret24 zdemaskowali nagranie zamachowca z Krakowa

Do obnażenia manipulacji posłużyły dwa specjalistyczne programy. Pierwszym z nich był stworzony przez firmę Google system SynthID, który służy do wychwytywania materiałów wykreowanych przez modele sztucznej inteligencji. Drugim wykorzystanym rozwiązaniem okazała się aplikacja Hive, również przeznaczona do tropienia treści powstałych przy udziale AI.

Przeprowadzone analizy jednoznacznie wykazały, że film z udziałem rzekomego sprawcy z Krakowa jest w pełni dziełem zaawansowanych algorytmów. Dziennikarze serwisu Konkret24 dowiedli ponadto, że bazą do stworzenia tej fałszywki była najpewniej tylko jedna, nieruchoma fotografia. Wykorzystano w tym celu zdjęcie pobrane z Facebooka, które użytkownicy sieci powiązali z napastnikiem, a następnie rozpowszechniły je również media. Autor manipulacji użył tego pojedynczego kadru i za pomocą narzędzi AI wprawił go w ruch, podkładając jednocześnie odpowiednio spreparowany głos.

Atak na Rynku Głównym w Krakowie i śmierć sprawcy

Do tragicznego zamachu w sercu Krakowa doszło w sobotę, 7 listopada. W wyniku ataku na Rynku Głównym śmierć poniosło sześć osób, a szesnaście kolejnych doznało obrażeń.

Postępowanie dotyczące czynu o charakterze terrorystycznym prowadzi w tej sprawie Prokuratura Krajowa. Śledczy przekazali informację, że przed atakiem mężczyzna pozbawił życia także trzech członków własnej rodziny.

Napastnik nie stanie jednak przed sądem. W poniedziałek mężczyzna zmarł w szpitalu w wyniku ran postrzałowych, które odniósł podczas policyjnej akcji zatrzymania.