Superintelligence: Paths, Dangers, Strategies
by Nick Bostrom
📖 Tentang buku
Nick Bostrom, seorang ahli falsafah dari Oxford, membahas detik-detik apabila kecerdasan buatan melebihi kebijaksanaan manusia dalam semua aspek. Penulis memperkenalkan konsep ‘ledakan kecerdasan’ dan menerangkan pelbagai kemungkinan di mana matlamat supermind berbeza daripada matlamat manusia (masalah penyelarasan — alignment problem). Buku ini memberi panduan kepada mereka yang ingin memahami risiko eksistensial yang boleh timbul apabila teknologi maju ini berkembang secara pesat.
Penulis menegaskan bahawa buku ini adalah sumber utama untuk memahami cabaran keselamatan dan etika dalam pembangunan AI yang canggih. Ia mendorong pembaca berfikir dalam skala tamadun dan menyedari mengapa penciptaan AI yang berkuasa memerlukan lebih daripada sekadar kemahiran teknikal — ia memerlukan pertimbangan moral yang mendalam. Karya ini menjadi asas penting untuk individu dan organisasi yang merancang untuk memberi impak jangka panjang terhadap dunia melalui inovasi teknologi.
💡 Pengajaran utama
Fahami risiko konvergensi alat: superintelligence mungkin menggunakan sumber Bumi demi matlamatnya sendiri tanpa mengira keberadaan manusia.
Laksanakan prinsip keselamatan AI sejak awal pembangunan sistem automasi bagi mengelakkan risiko yang tidak terkawal.
Kenali perbezaan antara ‘lemah’ dan ‘kuat’ (AGI) kecerdasan buatan untuk menilai ancaman dari segi ekonomi dan sosial.