Superintelligence

Pernahkah kamu membayangkan apa yang terjadi jika kecerdasan buatan atau AI suatu hari nanti tidak hanya menyamai, tetapi jauh melampaui kecerdasan manusia? Mengangkat premis yang menggetarkan ini, buku ini memperkenalkan kita pada kemungkinan nyata bahwa kehidupan umat manusia di masa depan akan jauh lebih bergantung pada keputusan yang diambil oleh mesin daripada keputusan kita sendiri. Sama persis seperti nasib banyak spesies hewan yang kini bergantung penuh pada apa yang dilakukan oleh manusia sejak kita menjadi makhluk paling cerdas di Bumi. Pertanyaannya sekarang: apakah penciptaan AI supercerdas ini akan menjadi solusi dari segala masalah kemanusiaan, atau justru menjadi kesalahan terbesar dan terakhir yang pernah kita buat?

Melalui perjalanan panjang dan mendalam ini, kita belajar bahwa kecerdasan super bukan lagi sekadar fiksi ilmiah, melainkan sebuah potensi nyata yang bisa datang dari berbagai jalur, baik melalui rekayasa langsung, evolusi simulasi, atau bahkan muncul secara kebetulan. Kita juga memahami betapa mengerikannya konsekuensi jika AI supercerdas memiliki kecerdasan tanpa kebijaksanaan moral, di mana nasib umat manusia bisa bergeser sepenuhnya ke tangan mesin, sama seperti nasib hewan yang bergantung pada kita. Terakhir, kita diingatkan bahwa pengembangan teknologi harus berjalan seimbang dengan riset pengendaliannya, serta betapa pentingnya memberikan fondasi moral yang tepat agar masa depan kita tetap berada di jalan yang benar.