Jak rozpoznać deepfake? Naukowcy z Politechniki Krakowskiej pracują nad algorytmem wykrywającym

2022-01-27 16:12
Jak rozpoznać deepfake? Naukowcy z Politechniki Krakowskiej pracują nad algorytmem wykrywającym
Autor: Politechnika Krakowska Technologia deepfake obecnie nie jest doskonała i popełnia błędy, które można wykrywać.

Na Politechnice Krakowskie powstaje system, który będzie wykrywał fałszywe zdjęcia, filmy i nagrania dźwiękowe. Technologia deepfake pozwala na to aby przykładowo zaprezentować film, gdzie ktoś coś mówi lub robi, ale z twarzą zupełnie innego człowieka. Zespół badawczy PK pracuje nad algorytmem, który będzie ujawniał tego typu falsyfikaty.

Zdjęcia osób, które nie istnieją lub filmy ludzi mówiących rzeczy, których nigdy nie powiedzieli. Na tym polega technologia deepfake. Grupa naukowców z Politechniki Krakowskiej otrzymała rządowe dofinansowanie w wysokości prawie 4 milionów złotych na opracowanie algorytmu, który wykrywa takie fałszywe zdjęcia i nagrania. Technologia deepfake może być bardzo niebezpieczna.

Na przykład nawiązując do aktualnie napiętych stosunków na linii Rosja i Świat Zachodni, co by się stało, gdyby pojawiło się nagranie Prezydenta Joe Bidena, który mówi, że jest gotowy do ataku w każdej chwili czy tego typu groźby - tłumaczy szef zespołu badawczego Profesor Michał Bereta.

Algorytm, który będzie wykrywał fałszywki jest oparty o te same mechanizmy, które je tworzą. Deepfake-i nie są doskonałe więc naukowcy budują system, który wykrywa te wygenerowane komputerowo niedoskonałości.

Tu są różne przykłady. Czasami szczegóły twarzy jak na przykład oko, które nie jest wygenerowane dokładnie, widać że się zlewa z włosami. Okulary i tego typu szczegóły, oprawki, które nie są przykryte włosami tylko jakby płynnie przechodzą we włosy. Sieć neuronowa nie zawsze potrafi rozróżnić te dwa obiekty - mówi Prof. Bereta.

Docelowo system ma być udostępniony w sieci na bazie subskrypcji i każdy użytkownik będzie mógł w Internecie zweryfikować daną fotografię, film bądź nagranie audio.

Konkrus grantowy, który wygrali naukowcy z PK jest rozpisany na 3 lata i planowo do marca 2025 roku system powinien być gotowy do użycia. Potem jest przewidziany dodatkowy okres na wdrożenie komercyjne.

Tak drukowali fałszywe dowody osobiste
Grupa ZPR Media sprzeciwia się głoszeniu opinii noszących znamiona mowy nienawiści przepełnionych pogardą czy agresją. Jeśli widzisz komentarz, który jest hejtem, powiadom nas o tym, klikając zgłoś. Więcej w REGULAMINIE