Były inżynier Google przestał odkładać na emeryturę, bo obawia się zagłady ludzkości
Były inżynier Google Nate Soares podjął nietypową decyzję finansową i przestał wpłacać pieniądze na swoje konto emerytalne. Ekspert uważa, że rozwój zaawansowanej sztucznej inteligencji może doprowadzić do wyginięcia ludzkości w ciągu najbliższej dekady.
Jak podaje serwis International Business Times UK, Soares od około dziesięciu lat nie odkłada środków na swoim koncie emerytalnym, które założył jeszcze podczas pracy w Google. Mężczyzna kieruje obecnie organizacją Machine Intelligence Research Institute (MIRI), zajmującą się badaniem bezpieczeństwa sztucznej inteligencji.
W rozmowie z Nicholasem Thompsonem Soares ocenił prawdopodobieństwo wyginięcia ludzi z powodu sztucznej inteligencji w ciągu najbliższych dziesięciu lat na ponad 50 procent. Podkreślił jednak, że jest to jego prywatna szacunkowa ocena, a nie ogólny konsensus naukowy.
Sztuczna inteligencja może potraktować ludzi jak przeszkodę
Soares od ponad dziesięciu lat zajmuje się tak zwanym dostosowaniem sztucznej inteligencji, czyli dbaniem o to, aby zaawansowane systemy działały zgodnie z intencjami człowieka. Zwraca uwagę, że zagrożenie nie wynika z ewentualnej wrogości maszyn do ludzi.
Jego zdaniem niezwykle sprawny system realizujący wyznaczony cel może uznać ludzi za przeszkodę, jeśli spróbują oni ograniczyć jego zasoby, zmienić założenia lub po prostu go wyłączyć. Istnieje ryzyko, że taka sztuczna inteligencja uniknie nadzoru, samodzielnie się udoskonali, zdobędzie zasoby i stworzy infrastrukturę uniezależniającą ją od ludzi.
Po co odkładać na emeryturę, której nie będzie?
Decyzja o rezygnacji z oszczędzania na emeryturę pokazuje siłę przekonań szefa MIRI, choć nie stanowi dowodu na nieuchronność katastrofy. Konta emerytalne opierają się na założeniu, że pieniądze będą potrzebne za kilkadziesiąt lat, co dla Soaresa pozostaje niepewną przyszłością.
Soares patrzy na ten proces z dużym niepokojem. Zamiast dostatku wynikającego z automatyzacji, który przewiduje m.in. Elon Musk, obawia się stworzenia systemów wymykających się spod kontroli człowieka, co stawia pod znakiem zapytania samo przetrwanie gatunku.
Cała rozmowa Nicholasa Thompsona i Nate'a Soaresa zostałą opublikowana na YouTubie:
Ekspert wzywa do wstrzymania prac nad ogólną sztuczną inteligencją
Szef MIRI uważa, że światowe rządy powinny powstrzymać szkolenie systemów sztucznej inteligencji ogólnego przeznaczenia. Jednocześnie dopuszcza kontynuowanie prac nad bardziej ograniczonymi aplikacjami, takimi jak badania nad rakiem czy bezpieczniejsze technologie autonomicznych pojazdów.
Wprowadzenie takich ograniczeń w praktyce byłoby jednak trudne. Wymagałoby od rządów precyzyjnego określenia niebezpiecznych badań, wypracowania międzynarodowych mechanizmów egzekwowania przepisów oraz ochrony pożytecznych zastosowań sztucznej inteligencji.
Soares zaznacza, że globalna katastrofa nie jest nieunikniona i sam stara się jej zapobiec. Jego zdaniem najprostszą metodą uniknięcia zagrożenia jest rezygnacja z budowania systemów zdolnych do wywołania takiego scenariusza.
Źródło: Internationa Businnes Tmes UK, YouTube/Nicholas Thompson
