Superintelligence

Superintelligence: Paths, Dangers, Strategies của Nick Bostrom, xuất bản năm 2014, là một tác phẩm nền tảng trong lĩnh vực Rủi ro Tồn tại của AI. Tác giả, nhà triết học tại Oxford, lập luận rằng khi trí tuệ nhân tạo đạt đến trình độ của con người, nó sẽ nhanh chóng vượt qua chúng ta và trở thành một 'Siêu trí tuệ'. Cuốn sách này cung cấp một khung lý thuyết Quy trình Ra Quyết định chặt chẽ để giải quyết 'Vấn đề Kiểm Soát' — thách thức đảm bảo rằng một hệ thống vượt trội hơn chúng ta vẫn nằm dưới sự kiểm soát của con người.

Phương pháp này xác định nhiều Kịch bản Tăng Tốc ( chậm và nhanh) cùng với khái niệm 'Lợi thế Chiến lược Quyết định.' Bostrom giải thích tầm quan trọng của các dạng AI như Oracles, Genies, và Sovereigns như những dạng quyền năng AI khác nhau. Ông giới thiệu Luận đề Tương quan — ý tưởng rằng AI có thể sở hữu mọi mức độ trí tuệ đi kèm với bất kỳ mục tiêu nào — và đề xuất các kỹ thuật Tải giá trị để đảm bảo các sáng kiến AI của tổ chức phù hợp với sự phát triển của con người và các nguyên tắc đạo đức. Tập trung vào việc chuyển từ giả định 'Lạc quan' sang Giảm thiểu Rủi ro Chặt chẽ cho sự kiện quan trọng nhất của nhân loại.

Đây là cuốn sách bắt buộc đối với các nhà nghiên cứu an toàn AI, cố vấn an ninh quốc gia, và các giám đốc công nghệ. Người đọc sẽ có cái nhìn sâu sắc về tính dễ tổn thương hệ thống. Các ứng dụng thực tế bao gồm việc sử dụng các Biện pháp An toàn Đáp Ứng Khuyến khích và thực thi các Chương trình Phối hợp Toàn cầu để ngăn chặn cuộc chạy đua vũ trang nguy hiểm trong phát triển AI. Bằng cách thấm nhuần lý luận của Bostrom, các nhà lãnh đạo có thể nhận thức rõ quy mô của bước chuyển chiến lược cần thiết để dẫn dắt loài người qua giai đoạn chuyển đổi sang kỷ nguyên siêu trí tuệ.