Superintelligence

Superintelligence: Paths, Dangers, Strategies karya Nick Bostrom, yang diterbitkan pada tahun 2014, adalah karya dasar dalam bidang Risiko Eksistensial AI. Penulis, seorang filsuf dari Oxford, berpendapat bahwa setelah kecerdasan buatan mencapai tingkat manusia, ia akan dengan cepat melampaui kemampuan kita dan berkembang menjadi 'Superintelligence.' Buku ini menawarkan kerangka Decision-Theoretic Framework yang ketat untuk mengatasi 'Masalah Kontrol'—tantangan memastikan sistem yang jauh lebih canggih tetap berada di bawah kendali manusia.

Metodologi dalam buku ini mengidentifikasi berbagai Skema Takeoff (lambat vs. cepat) dan konsep 'Keunggulan Strategis Dekisif.' Bostrom menjelaskan pentingnya Oracles, Genies, dan Sovereigns sebagai berbagai tipe agen AI. Ia memperkenalkan Orthogonality Thesis— gagasan bahwa kecerdasan AI dapat memiliki tingkat apa pun dan tujuan apa pun—serta memberi teknik untuk 'Value Loading.' Fokusnya adalah peralihan dari 'Asumsi Optimis' menuju Mitigasi Risiko yang Ketat demi mengantisipasi peristiwa paling penting dalam sejarah umat manusia.

Buku ini wajib dibaca oleh para peneliti keselamatan AI, penasihat keamanan nasional, dan CEO teknologi. Pembaca akan mendapatkan pemahaman mendalam tentang Kerentanan Sistemik. Aplikasi praktisnya mencakup penerapan 'Langkah-langkah Keamanan Inovatif' dan pelaksanaan Koordinasi Global untuk mencegah perlombaan senjata yang berbahaya dalam pengembangan AI. Dengan memahami logika Bostrom, para pemimpin dapat menghargai besarnya perubahan strategis yang dibutuhkan untuk memandu spesies menuju era superintelligent.