AI podała fałszywą informację o śmierci Trumpa. Powód? Modele uczą się także z internetowych forów
Sztuczna inteligencja potrafi nie tylko odpowiadać na pytania o to, jak długo powinno się gotować jajko na miękko, ale też wymyślać niestworzone historie. Ostatnio to właśnie AI narobiła sporo zamieszania w sieci. Chatbot w wyszukiwarce DuckDuckGo informował użytkowników, że... Donald Trump zmarł 7 czerwca na wściekliznę, pogryziony przez wiceprezydenta. Według odpowiedzi wygenerowanej przez AI J.D. Vance też potem umarł. Fałszywa historia szybko zaczęła pojawiać się również na stronach publikujących zmyślone informacje. Jak opisuje serwis Cybernews, źródłem plotki było forum Reddit. Od początku roku działa tam społeczność r/poisonai, licząca około 45 tys. użytkowników. Jej celem jest publikowanie wymyślonych historii, które mają zostać przechwycone przez modele sztucznej inteligencji. Użytkownicy zamieszczają tam coraz bardziej absurdalne wpisy, m.in. o tym, że Donald Trump przeszedł na islam albo zmienił płeć.
Najwyraźniej część tych treści została wykorzystana przez system AI. Modele językowe często analizują wpisy z Reddita, ponieważ jest to jedno z największych forów internetowych na świecie. Problem polega na tym, że nie zawsze potrafią odróżnić żart, satyrę czy celową prowokację od prawdziwych informacji. Dodatkowym utrudnieniem są komentarze użytkowników. Część z nich brzmi wiarygodnie, choć w rzeczywistości jest elementem internetowego żartu. Dla człowieka ironia zwykle jest łatwa do wychwycenia. Dla sztucznej inteligencji bywa znacznie trudniejsza do rozpoznania.
Sztuczna inteligencja lubi uczyć się z forów? Plotka powielona sto razy staje się "wirtualną prawdą"
W sprawie tej wypowiedział się teraz dla PAP dr Mateusz Łabuz, naukowiec z Uniwersytetu w Hamburgu (IFSH) oraz autor książki „Przed waszą erą. Człowiek w syntetycznym świecie deepfake'ów, ChataGPT i sztucznej inteligencji”. "W wielu kontekstach wypowiedzi brzmią dużo bardziej naturalnie, kiedy model posługuje się językiem z forum internetowych, a nie na przykład językiem encyklopedycznym albo książkowym" - stwierdził, tłumacząc, czemu modele AI ochoczo korzystają z Reddita. Jak podkreślił, masowe zalewanie forów daną plotką może sprawić, że sztuczna inteligencja zacznie udzielać użytkownikom fałszywych odpowiedzi na zadane pytania. Nawet o to, czy Trump żyje, czy nie.
