Eliezer Yudkowsky, tác giả fanfic biến nỗi sợ AI thành sách bán chạy

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Sinh	11 tháng 9, 1979 Chicago, Hoa Kỳ
Nghề nghiệp	Nhà văn và nhà nghiên cứu AI

Khi Sam Altman được cho là đã trình bày với nhân viên OpenAI những kết cục có thể xảy ra trong cuộc đua phát triển siêu trí tuệ, một trong ba kịch bản mang tên riêng của một người. “Kế hoạch Eliezer” hình dung một phòng thí nghiệm duy nhất đi đầu trong việc tạo ra AI tự cải thiện, rồi tận dụng lợi thế đó để chặn mọi đối thủ tiếp cận năng lực tính toán; Altman chỉ nhắc đến nó để gọi đây là một kịch bản tồi tệ. Cụm từ được nhắc lại cùng câu chuyện — làm tan chảy GPU của tất cả những người khác — gợi lại một ví dụ mà chính Eliezer Yudkowsky từng nêu trong bài luận về rủi ro AI: “đốt hết GPU”, kèm lời giải thích ngay sau đó: “Đây không phải điều tôi nghĩ bạn thực sự muốn làm với một AGI mạnh mẽ.”

Việc một CEO đặt tên chiến lược theo ông cho thấy ý tưởng của Yudkowsky đã lan xa đến mức nào; và gần như toàn bộ hành trình ấy diễn ra trên trang viết. Ông là nhà nghiên cứu AI không có bằng cấp đại học, nhưng trên hết là một cây bút sung sức: hàng trăm bài luận trên blog, một tiểu thuyết Harry Potter đồ sộ và một cuốn sách bán chạy có nhan đề nói thẳng không vòng vo.

Yudkowsky sinh tại Chicago ngày 11 tháng 9 năm 1979, lớn lên trong một gia đình Do Thái Chính thống Hiện đại và hiện nay là người thế tục. Những vấn đề sức khỏe kéo dài khiến ông phải bỏ học giữa chừng ở bậc trung học cơ sở; ông chưa từng học trung học phổ thông hay đại học. Năm 2000, khi mới 20 tuổi, ông thành lập Singularity Institute for Artificial Intelligence với sự hậu thuẫn của Brian và Sabine Atkins, đặt mục tiêu thúc đẩy sự xuất hiện của AI. Chẳng bao lâu sau, ông bắt đầu lo ngại về chính thứ mình đã khởi xướng xây dựng; đến năm 2005, viện chuyển sang nghiên cứu cách kiểm soát rủi ro từ những cỗ máy thông minh hơn người tạo ra chúng. Năm 2013, tổ chức đổi tên thành Machine Intelligence Research Institute và đặt trụ sở tại Berkeley.

Ông thực sự bắt đầu viết nhiều từ tháng 11 năm 2006, khi cùng nhà kinh tế học Robin Hanson trở thành những cây bút đóng góp chính cho Overcoming Bias, một blog nhóm bàn về lý tính của con người. Tháng 2 năm 2009, các bài đăng của ông trở thành hạt giống cho LessWrong, blog cộng đồng hướng đến việc “tinh luyện nghệ thuật lý tính của con người”, rồi phát triển thành mái nhà trực tuyến lớn nhất của phong trào tự gọi mình là những người theo chủ nghĩa duy lý. Những bài luận đăng tại đây, thường được gọi đơn giản là “The Sequences”, đi sâu vào các thiên kiến nhận thức, định lý Bayes và cách những người thông minh tự đánh lừa mình. Năm 2015, MIRI tập hợp hơn 300 bài trong số đó thành Rationality: From AI to Zombies, rồi tiếp nối vào năm 2017 bằng Inadequate Equilibria, cuốn sách ngắn bàn về lý do các xã hội không giải quyết những vấn đề vốn có thể khắc phục. Stuart Russell và Peter Norvig thảo luận các đề xuất của ông trong giáo trình AI tiêu chuẩn của họ, còn Nick Bostrom dẫn nguồn ông trong Superintelligence: Paths, Dangers, Strategies.

Rồi cuốn tiểu thuyết ra đời. Harry Potter and the Methods of Rationality, được người hâm mộ gọi tắt là HPMOR, đăng nhiều kỳ trên FanFiction.Net từ ngày 28 tháng 2 năm 2010 đến ngày 14 tháng 3 năm 2015, gồm 122 chương với tổng cộng hơn 660.000 từ. Tác phẩm chỉ thay đổi một chi tiết trong nguyên tác. Petunia Evans kết hôn với Michael Verres, một giáo sư Oxford, và cậu bé Harry mồ côi lớn lên trong môi trường được giáo dục tại nhà, học khoa học; vì vậy, khi đến Hogwarts, cậu dùng phương pháp khoa học để kiểm nghiệm phép thuật và không ngừng chất vấn những điểm bất nhất trong thế giới phù thủy. Ở nhà Ravenclaw, cậu kết bạn với Draco Malfoy, Hermione Granger và Giáo sư Quirrell. Cốt truyện dần tối tăm hơn vẻ ngoài hài hước, nhưng chủ đề thực sự của tác phẩm là cách tư duy.

Độc giả chia thành hai phe rõ rệt. Năm 2011, The Atlantic ghi nhận làn sóng tranh cãi trên các diễn đàn fan fiction về cách tác phẩm “xúc phạm — hay xuất sắc — khi xử lý nguyên tác”, đồng thời dẫn lời nhà văn khoa học viễn tưởng David Brin gọi đây là “một bộ truyện tuyệt vời, tinh tế, kịch tính và kích thích tư duy”. Học giả luật William Baude còn nhận xét mạnh hơn trên The Washington Post: “cuốn Harry Potter hay nhất từng được viết, dù không phải do J.K. Rowling chấp bút”. Amanda Silberling của TechCrunch lại thấy tác phẩm “thực sự lê thê”. Yudkowsky từ chối đề nghị loại bỏ các yếu tố của Rowling rồi bán câu chuyện như một tiểu thuyết độc lập — con đường mà Fifty Shades of Grey đã đi từ fan fiction của Twilight. “HPMOR gắn bó căn bản với các tiểu thuyết Harry Potter nguyên tác, và chỉ có thể được hiểu trong bối cảnh những tác phẩm đó,” ông nói.

Nghịch lý trong sự nghiệp của Yudkowsky là người gắn liền nhất với những cảnh báo về AI cũng từng lôi cuốn nhiều người tham gia phát triển công nghệ này. Tháng 2 năm 2023, Altman viết rằng Yudkowsky đã khiến “nhiều người trong chúng tôi quan tâm đến AGI”, góp phần giúp DeepMind nhận được tài trợ và “có vai trò then chốt trong quyết định thành lập OpenAI”. Mùa xuân năm đó, Yudkowsky đăng bài bình luận trên tạp chí Time, kêu gọi tạm dừng vô thời hạn trên toàn thế giới các đợt huấn luyện AI quy mô lớn; sau đó, Time đưa ông vào danh sách 100 nhân vật có ảnh hưởng nhất trong lĩnh vực AI năm 2023.

Cuốn sách trực diện nhất của ông ra mắt ngày 16 tháng 9 năm 2025. Được viết cùng Nate Soares, đồng nghiệp tại MIRI, và do Little, Brown xuất bản, If Anyone Builds It, Everyone Dies lập luận rằng các hệ thống AI hiện đại được nuôi dưỡng chứ không phải chế tác: chúng được huấn luyện thành hàng tỷ trọng số dạng số mà ngay cả những người phát triển cũng không thể đọc hiểu, khiến không ai có thể xác định đáng tin cậy mục tiêu của một hệ thống cuối cùng thông minh hơn con người. Theo các tác giả, nhân loại sẽ thất bại trước siêu trí tuệ giống như con người thất bại trước công cụ chơi cờ Stockfish; giải pháp an toàn duy nhất là phối hợp dừng lại. Cuốn sách lọt vào danh sách bán chạy của The New York Times ở các hạng mục sách bìa cứng và sách phi hư cấu tổng hợp.

Giới phê bình cũng chia rẽ như độc giả của cuốn tiểu thuyết trước đó. Trên The Guardian, David Shariatmadari nhận xét cuốn sách “rõ ràng đến mức những kết luận của nó thật khó chấp nhận”. Ian Leslie, viết trên The Observer, ca ngợi “sự sáng rõ, sinh động và niềm hân hoan hầu như không che giấu”. Stephen Marche so sánh tác phẩm với cẩm nang của Scientology trên The New York Times, còn Adam Becker trên The Atlantic thẳng thừng hơn: “Họ chỉ đơn giản là sai.”

Cuộc tranh luận sau đó đã chuyển lên màn ảnh. Yudkowsky là một trong những tiếng nói xuất hiện bên cạnh Yoshua Bengio và Timnit Gebru trong The AI Doc: Or How I Became an Apocaloptimist, bộ phim tài liệu của Daniel Roher về hành trình trở thành cha trong thời đại AI, lên Netflix ngày 15 tháng 9 năm 2026. Cậu bé phù thủy tiến hành những thí nghiệm có kiểm soát và vị đồng tác giả muốn chấm dứt cuộc thí nghiệm ấy hóa ra đều là một người viết, vẫn đang mời độc giả lần theo chuỗi lập luận đến tận cùng, dù mắt xích cuối cùng có thể khiến họ khó chịu đến đâu.

Thẻ: trí tuệ nhân tạo, nhà văn, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Eliezer Yudkowsky, tác giả fanfic biến nỗi sợ AI thành sách bán chạy

Nội dung tương tự

Sam Altman: tăng tốc về phía điều ông gọi là nguy hiểm

Sam Altman, giám đốc OpenAI, tại Liên Hợp Quốc: “AI nên được xây dựng vì con người, không chỉ để guồng máy chạy nhanh hơn…”

Sam Altman: “Chúng ta giờ đã ở trong điểm kỳ dị”

Sam Altman nói về AI: “…việc phải dùng nó là điều không thể thương lượng”

Phim tài liệu về AI: Hay cách tôi trở thành kẻ lạc quan về tận thế trên Netflix: một người sắp làm cha hỏi những người tạo ra AI liệu con mình có ổn

Giám đốc Microsoft AI Mustafa Suleyman về Claude và ý thức: “Tôi nghĩ điều này rất nguy hiểm”

Thảo luận