Sztuczna inteligencja zgłosiła użytkownika FBI. Mężczyzna opisywał botowi plany zabójstwa
Rozmowy z ChatGPT nie zawsze pozostają tajemnicą, o czym przekonał się 25-letni Darren Shida Zhou z Florydy. Mężczyzna używał sztucznej inteligencji do planowania brutalnego ataku i zabójstwa swojej byłej partnerki. Jak poinformował amerykański dziennik „USA Today”, o podejrzanych zachowaniach została powiadomiona federalna policja, która szybko namierzyła niedoszłego napastnika.
Twórcy technologii, firma OpenAI, zauważyli niepokojące zapytania i zaalarmowali FBI. Agenci federalni zabezpieczyli i przekazali biuru szeryfa hrabstwa Palm Beach zapisy rozmów Zhou z okresu około dwóch miesięcy. Pozwoliło to śledczym na szybką interwencję, zanim doszło do tragedii.
"Zabiję ją do końca miesiąca". Przerażające szczegóły planu
„Zabiję ją do końca tego miesiąca. Jeśli ja jej nie mogę mieć, to nikt nie będzie mógł” – pisał 25-latek w jednej z wiadomości, które trafiły do akt sądowych. Według doniesień stacji WPBF oraz gazety „USA Today”, mężczyzna opisywał sztucznej inteligencji, jak zamierza czekać na swoją byłą partnerkę na parkingu przed siłownią z kwiatami, a w przypadku odrzucenia – zabić ją i siebie. W innych wiadomościach szczegółowo planował porwanie, napaść seksualną, uwięzienie kobiety oraz zamordowanie członków jej rodziny.
Zhou, który pracował jako analityk finansowy, nie ograniczał się jedynie do rozmów z botem. Swojej 21-letniej byłej dziewczynie wysyłał zdjęcia broni palnej, opasek zaciskowych oraz lateksowych rękawiczek, choć jego obrońca twierdził później, że mężczyzna w rzeczywistości nie posiadał broni. Kobieta zdecydowała się zakończyć trwający pół roku związek z powodu jego chorobliwej zazdrości i kontrolowania. Gdy zablokowała jego numer, Zhou nękał ją dalej przy użyciu aplikacji generujących nowe numery telefonów.
Szybka akcja policji i zwolnienie z prestiżowej pracy
Pod koniec maja śledczy otrzymali zapisy rozmów Zhou z ChatemGPT, które zawierały wyłącznie jego wiadomości, bez odpowiedzi bota. Analizujący sprawę funkcjonariusz uznał, że słowa mężczyzny nie były jedynie chwilowym wybuchem emocji, lecz systematycznym planowaniem i przygotowywaniem się do zbrodni. Policjanci skontaktowali się z byłą partnerką Zhou, a porównanie wiadomości nękających, które od niego otrzymywała, z logami z ChatGPT potwierdziło bezpośrednie zagrożenie.
Darren Shida Zhou został aresztowany 29 maja i usłyszał trzy zarzuty zagrożone karą łączną do 25 lat więzienia. Spędził dwa dni w areszcie, po czym wyszedł na wolność po wpłaceniu kaucji w wysokości 100 tysięcy dolarów. Gdy o sprawie dowiedział się jego pracodawca, bank Goldman Sachs, mężczyzna został natychmiast zwolniony z pracy.
Osiem lat nadzoru zamiast celi więziennej
Proces zakończył się 13 sierpnia ugodą sądową, na którą zgodziła się poszkodowana kobieta. Zhou przyznał się do zarzucanych mu czynów, a sędzia Scott Suskauer skazał go na osiem lat okresu próbnego. Sąd zdecydował się na warunkowe wstrzymanie skazania, dzięki czemu 25-latek uniknął formalnego statusu osoby skazanej za przestępstwo.
W ramach kary mężczyzna przez pierwsze dwa lata będzie objęty monitoringiem elektronicznym, ma całkowity zakaz zbliżania się do byłej partnerki oraz zakaz posiadania broni palnej. Musi także przejść terapię psychologiczną, wziąć udział w programie dla sprawców przemocy domowej oraz zachować abstynencję od alkoholu i narkotyków. „Daj sobie spokój i idź dalej. Na świecie są inni ludzie” – zwrócił się bezpośrednio do Zhou sędzia podczas ogłaszania wyroku.
Obrońca 25-latka przekonywał przed sądem, że jego klient nie jest agresywnym człowiekiem, lecz przeszedł poważny kryzys psychiczny, z którego obecnie wychodzi. Podkreślał przy tym dotychczasową niekaralność mężczyzny oraz jego sukcesy naukowe, w tym ukończenie z wyróżnieniem Uniwersytetu Northeastern.
Kiedy OpenAI decyduje się na powiadomienie służb?
Sprawa Zhou rzuca światło na politykę bezpieczeństwa OpenAI. Firma oficjalnie informuje na swojej stronie internetowej, że rozmowy wskazujące na planowanie skrzywdzenia innych osób są kierowane do specjalnego zespołu ds. bezpieczeństwa. Jeśli weryfikatorzy uznają, że istnieje bezpośrednie zagrożenie dla czyjegoś zdrowia lub życia, sprawa trafia do organów ścigania.
Co ciekawe, procedura ta nie ma zastosowania w przypadku rozmów dotyczących samookaleczenia. OpenAI tłumaczy to dbałością o prywatność użytkowników szukających pomocy i nie przekazuje takich zgłoszeń policji. W przypadku planowania przestępstw wobec innych osób, granica prywatności zostaje jednak natychmiast przekroczona.
