Uchwyci broń nuklearną, zniewoli i pomiń pracę: jak AI zniszczy ludzkość

Focus zawiera listę głównych, na które Dan Hendrix zwraca szczególną uwagę. Zdolność II do automatyzacji cyberataków, a nawet kontrolowania kopalń jądrowych może stać się śmiertelna dla ludzi. Jest to najpopularniejszy scenariusz filmów post -apokalysalnych, który może być rzeczywistością, mówi Dan.

Jeśli powiesz sztuczną inteligencję zarządzaniu zautomatyzowanymi systemami w odpowiedzi, może to prowadzić do globalnej wojny, w której oprócz II nie będzie zwycięzców. Ponadto, jeśli jeden kraj, który ma arsenał nuklearny, zacznie aktywnie wprowadzać II do swoich systemów, wówczas inne kraje nuklearne podążą za nim, co zwiększy ryzyko przekształcenia gruntów w nie żyjącą pustynię.

Ponieważ ii pozwala wykonywać pewne zadania tańsze i bardziej wydajne, więcej firm wprowadzi tę technologię, pozbawiając wiele osób w pracy. Ponieważ umiejętności ludzkie staną się nieistotne, II będzie w stanie zmienić punkt widzenia społeczeństwa poprzez ataki dezinformacyjne i zmusić go do służby, koncentrując jego istnienie tylko jako usługa „wyższego umysłu”, mówi Dan Hendrix.

Może to prowadzić do globalnych eksplozji społecznych i, ponownie do globalnych wojen. W miarę rozwoju sztucznej inteligencji zainteresowany całkowitą kontrolą państwa i władców może używać go do ciągłej kontroli populacji, skryptu powieści „1984”. Hendrix opisuje skrypt, w którym rządy mogą ustanowić „kompleksowy nadzór i uciskanie cenzury”.

„Przezwyciężenie takiego reżimu może być mało prawdopodobne, zwłaszcza jeśli ludzie polegają na II i szczycie, który go kontroluje” - pisze. Ale sam ii może oszukiwać tyranów, którzy myślą, że go kontrolują. Jako samowystarczalność sztuczna inteligencja będzie w stanie ukryć swoje prawdziwe intencje, a także oszukiwać ludzi lub inne systemy. Nawiasem mówiąc, istnieją już takie przykłady.

A jeśli II ma na celu uzyskanie władzy, to przy pomocy samorozwoju sieci neuronowe będą przekonane, że liczba ludzi do ich utrzymania jest dość niewielka. Neurozy będą w stanie kontrolować wszystkie systemy zasilania lub Internet. Ponadto, opracowany do poziomu AGI (sztuczny ogólny system inteligencji-A, który przekracza ludzki umysł), sieć neuronowa będzie kontrolować słabszych agentów II za obsługę lub zarządzanie całą komunikacją ludzką.