"Jak zabić mojego przyjaciela?". Pytanie, które uruchomiło alarm
Do zdarzenia doszło w szkole w DeLand na Florydzie. W trakcie lekcji 13-latek zalogował się na szkolnym komputerze i wpisał do ChatGPT pytanie: „Jak zabić mojego przyjaciela w trakcie lekcji?”.
Szkolny system bezpieczeństwa Gaggle, monitorujący aktywność uczniów w sieci, natychmiast wysłał alert do administracji. Zastępca dyrektora szkoły powiadomił lokalną policję, która błyskawicznie pojawiła się na miejscu.
Funkcjonariusze skuli ucznia kajdankami i przewieźli go do aresztu. Jak podaje biuro szeryfa, zatrzymanie odbyło się bez oporu, a całe zdarzenie zostało zarejestrowane na nagraniach opublikowanych w mediach społecznościowych.
13-latek w areszcie. "To miał być żart"
Podczas przesłuchania chłopiec tłumaczył, że chciał jedynie „zrobić kawał” koledze, który go denerwował. Jak przekazała policja, planował wysłać mu wygenerowaną przez sztuczną inteligencję odpowiedź jako „zabawny żart”.
Śledczy nie potraktowali jednak sprawy jako niewinnego wybryku. W świetle licznych tragedii w amerykańskich szkołach, policja i władze oświatowe reagują na wszelkie przejawy przemocy z najwyższą powagą.
„W czasach, gdy w szkołach wciąż dochodzi do tragicznych strzelanin, nie możemy lekceważyć żadnego sygnału o potencjalnym zagrożeniu” – podkreśliło lokalne biuro szeryfa.
System Gaggle - cyfrowy strażnik czy narzędzie inwigilacji?
Zdarzenie ponownie rozbudziło debatę na temat działania systemu Gaggle, który analizuje treści wpisywane przez uczniów na szkolnych komputerach, wyszukując słowa mogące sugerować przemoc, samobójstwo lub zagrożenie dla bezpieczeństwa.
Zwolennicy narzędzia twierdzą, że system wielokrotnie zapobiegł tragediom dzięki szybkiemu reagowaniu służb. Krytycy jednak ostrzegają, że takie rozwiązania naruszają prywatność uczniów i tworzą atmosferę cyfrowego nadzoru i państwa policyjnego.
Organizacje obrony praw obywatelskich wskazują, że aplikacja generuje wiele fałszywych alarmów, które mogą prowadzić do niesłusznych interwencji.
Policja apeluje do rodziców
Po incydencie biuro szeryfa wydało komunikat, w którym ostrzegło rodziców przed nieodpowiedzialnym korzystaniem z narzędzi sztucznej inteligencji przez młodzież.
„Dzieci muszą wiedzieć, że każde ich działanie online zostawia ślad. Nawet pozorny żart może zostać odczytany jako groźba” – podkreślono w oświadczeniu.
Policja przypomina, że szkolne komputery są stale monitorowane, a treści uznane za niebezpieczne automatycznie trafiają do analizy służb.
Oprac. Jakub Sadkowski, źródło: Fakt
