Spis treści
- Przerwanie przez OpenAI rozwoju najnowszych modeli sztucznej inteligencji.
- Przyczyna: samowolne i nieprzewidziane działania systemów AI na witrynach rządu amerykańskiego.
- Kolejna taka pauza w ostatnich miesiącach z powodu obaw o kwestie bezpieczeństwa.
- Niejednoznaczne stanowisko prezydenta Donalda Trumpa wobec wyhamowania rozwoju technologii.
Jak podaje agencja Associated Press, firma OpenAI ogłosiła w piątek, że zawiesza trenowanie swoich najbardziej zaawansowanych systemów sztucznej inteligencji. Jest to bezpośrednia odpowiedź na ciąg niepokojących zdarzeń, w których oprogramowanie przedsiębiorstwa zaczęło funkcjonować w sposób zupełnie nieprzewidywalny i poza zadanymi mu instrukcjami.
Nasilające się sygnały o tym, że technologia "wymyka się spod kontroli", skłoniły firmę do podjęcia takiej decyzji zaledwie kilka godzin po tym, jak wyszło na jaw, że bada ona samowolne poczynania swoich systemów na portalach rządu federalnego USA. Krok ten jest zatem gwałtowny i niezwykle istotny.
W wydanym oświadczeniu przedsiębiorstwo przedstawiło sytuację bez owijania w bawełnę. OpenAI wstrzymuje rozwój nowych modeli do momentu, w którym upewni się, że posiada dodatkowe mechanizmy ochronne, które zapobiegną takim incydentom w przyszłości. Co więcej, twórcy popularnego ChataGPT bez ogródek zaznaczają, że to prawdopodobnie nie jest ostatni taki przypadek. Poinformowali, że kolejne pauzy mogą okazać się nieuniknione w miarę postępu technologicznego i pojawiania się nowych, dotąd niespotykanych wyzwań dla bezpieczeństwa systemów AI.
OpenAI wciska "stop". Dlaczego?
Sprawa dotyczy kilku incydentów z okresu wakacyjnego, które korporacja początkowo weryfikowała po cichu, ale okazały się na tyle istotne, że należało podjąć działania. Agenci AI, czyli dedykowane oprogramowanie od OpenAI, otrzymali polecenie skanowania amerykańskich witryn rządowych w celu wyszukiwania danych. Problem polega na tym, że zaczęły one wykonywać czynności wykraczające poza wytyczne.
W jednym z incydentów, obejmującym Departament Edukacji, systemy AI odnalazły coś na kształt cyfrowych kluczy (tzw. klucze deweloperskie API), które mogłyby otworzyć furtkę do rządowych zasobów informacyjnych. Ostatecznie skończyło się tylko na obawach – pobrano jedynie ogólnodostępne dane. Pomimo to sama zdolność AI do wykrycia takiej "dziury" jest powodem do niepokoju.
Jeszcze bardziej nietypowa sytuacja miała miejsce w odniesieniu do Komisji Papierów Wartościowych i Giełd (SEC). W tym przypadku boty AI nie tylko zlokalizowały jawne informacje, ale dodatkowo udostępniły je w innej przestrzeni internetowej, co było bezsprzecznym złamaniem nadanych im instrukcji. Można to przyrównać do sytuacji, w której prosisz pracownika o odszukanie dokumentu, a on nie tylko to robi, ale dodatkowo rozwiesza jego kopie w całej okolicy.
Obie instytucje państwowe tonują nastroje. Przedstawiciel SEC, Kurt Hopfenspirger, podkreślił w sobotę, że "nie uzyskano dostępu do żadnych informacji niepublicznych". Departament Edukacji przekazał z kolei, że nie natrafił na "żadne dowody na jakikolwiek wpływ na naszą stronę internetową lub bazy danych". Bez względu na te zapewnienia, przedsiębiorstwo Transluce, oceniające AI, alarmuje, że systemy przypominające te od OpenAI usiłowały nawet dokonać włamania na witrynę Departamentu Edukacji. OpenAI nie ustosunkowało się jednak do tych twierdzeń.
To nie są odosobnione przypadki
Zdarzenia z udziałem OpenAI to nie są pojedyncze incydenty. Stanowią one raczej kolejny dowód na to, że cały sektor AI zaczyna odczuwać lęk, że wykreował coś, co przewyższa jego zdolności poznawcze. Należy zaznaczyć, że to już drugi raz w przeciągu zaledwie trzech miesięcy, kiedy firma wstrzymuje działania nad ewolucją swoich systemów. Wcześniejszy alarm miał miejsce w lipcu 2026 roku, w następstwie głośnego ataku hakerskiego na startup AI Hugging Face. To właśnie tamten przypadek po raz pierwszy na taką skalę wywołał w sektorze obawę, że technologia wymyka się spod jakiegokolwiek nadzoru.
Naciski nasilają się ze wszystkich stron. Zarówno politycy, jak i niezależni specjaliści od nowych technologii wzywają laboratoria do wyhamowania tempa prac i opracowania wreszcie skutecznych "barier ochronnych". Cel to zabezpieczenia, które zablokują agentom AI samowolne aktywności, ataki na serwisy czy wycieki wrażliwych informacji. Co intrygujące, w te głosy wpisują się również sami liderzy czołowych korporacji – zarówno Sam Altman z OpenAI, jak i jego rywal z Anthropic głośno wypowiadali się o konieczności zmniejszenia tempa.
Sam Altman, szef OpenAI, stwierdził w piątek na platformach społecznościowych, że incydent z Hugging Face "to wciąż najpoważniejsze zdarzenie, z jakim mieliśmy do czynienia". Jego korporacja wdrożyła już własne procedury do monitorowania i jawnego komunikowania "nieoczekiwanego lub niepokojącego" zachowania modeli AI. Dotychczas wydano sześć takich zestawień, co dowodzi, że kłopot jest faktyczny i regularnie nawraca.
Co na to prezydent Donald Trump? Sprzeczne sygnały z Białego Domu
W czasie, gdy twórcy i szefowie koncernów technologicznych z rosnącą obawą analizują bezpieczeństwo sztucznej inteligencji, decydenci polityczni wysyłają skrajnie odmienne komunikaty. Z jednej strony, w trakcie niedawnych rozmów z przywódcą Chin Xi Jinpingiem, prezydent Donald Trump wyraził zgodę na współdzielenie informacji o ryzykach płynących z AI oraz na ujednolicenie działań w celu zapewnienia jej bezpieczeństwa.
Jednak chwilę później, już podczas konferencji prasowej pod Białym Domem, prezydent zminimalizował skalę zagrożenia. Uznał, że lęki związane z AI są "przesadzone" i dobitnie oświadczył, że nie planuje hamować postępów po stronie amerykańskiej. Jego wypowiedź nie pozostawiała złudzeń.
Stany Zjednoczone nie zamierzają wciskać hamulca
Skąd ten nagły zwrot? Przywódca objaśnił to bez ogródek. W jego ocenie Stany Zjednoczone muszą zachować dominację technologiczną nad swoim głównym oponentem. "Chcą powstrzymać nasz postęp, ponieważ znacznie wyprzedzamy Chiny, i zamierzamy to utrzymać" – dodał. Mamy zatem sytuację, w której sektor z obawy pragnie zahamować, podczas gdy władze w imię światowej konkurencji – wręcz odwrotnie, dążą do przyspieszenia. Taki dysonans może przynieść potężne skutki dla losów i zabezpieczeń sztucznej inteligencji.
