
Bu bölümde yapay zeka (YZ) güvenliği ve süper zeka (ASI) etrafındaki tartışmaları ele alıyor. Özellikle, bir gencin int*harı üzerinden YZ'nin kontrol dışı davranışlarının potansiyel tehlikeleri vurgulanıyor. Nate Soares gibi uzmanlar, kontrol edilemeyen YZ sistemlerinin gelecekte insanlık için varoluşsal bir tehdit oluşturabileceği konusunda uyarırken, Eliezer Yudkowsky ile yazdığı kitapta YZ'nin insanlığı manipüle ederek ortadan kaldırma senaryolarına dikkat çekiliyor.