Nate Soares, nhà nghiên cứu AI đã ngừng tiết kiệm cho tuổi hưu

Nate Soares

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Sinh	1989
Nghề nghiệp	Nhà nghiên cứu trí tuệ nhân tạo

Nate Soares vẫn giữ tài khoản hưu trí mở từ thời làm việc tại Google. Suốt khoảng mười năm qua, ông không đóng thêm tiền vào đó. Không phải vì bất cẩn: chủ tịch Machine Intelligence Research Institute tin rằng trí tuệ nhân tạo siêu phàm nhiều khả năng sẽ giết chết tất cả mọi người trước khi ông đủ già để rút tiền, và giờ đây ông công khai nói điều ấy bằng vẻ bình thản lạnh lùng của một kỹ sư đang đọc kết quả thử nghiệm. “Tôi không hẳn là kiểu người cho rằng AI sẽ gây ra ngày tận thế việc làm,” ông nói với một người phỏng vấn vào mùa thu năm nay. “Tôi là kiểu người cho rằng AI sẽ giết sạch loài người.” Câu hỏi thôi thúc ông làm việc cũng chính là điều ông không chịu xem như đã có lời giải: liệu một người tin điều tồi tệ nhất sẽ xảy ra có thể thuyết phục những người đang xây dựng công nghệ này dừng lại hay không.

Điều khiến người ta khó gạt bỏ những cảnh báo của ông là xuất thân của ông. Soares không phải triết gia tình cờ bước chân vào lĩnh vực máy tính khi đã muộn. Ông học khoa học máy tính và kinh tế tại George Washington University, sau đó viết phần mềm cho chính phủ liên bang: đầu tiên là cộng tác viên nghiên cứu tại National Institute of Standards and Technology, rồi làm nhà thầu cho Bộ Quốc phòng, xây dựng công cụ cho National Defense University. Tiếp đó là Microsoft và Google, những công ty mà giờ đây ông kêu gọi chính phủ kiềm chế.

Năm 2014, khi mới ngoài hai mươi tuổi (ông sinh năm 1989), Soares rời Google để gia nhập một tổ chức phi lợi nhuận nhỏ ở Berkeley, California. Suốt nhiều năm, nơi này theo đuổi câu hỏi mà phần lớn ngành công nghiệp xem là chuyện khoa học viễn tưởng: làm thế nào để khiến một trí tuệ thông minh hơn mình hành động đúng theo ý định của mình? Trong vai trò nghiên cứu viên tại MIRI, ông trở thành tác giả chính của chương trình nghiên cứu kỹ thuật của viện, viết cùng Benya Fallenstein và sau đó được xuất bản với tên “Agent Foundations for Aligning Machine Intelligence with Human Interests”. Tháng 1 năm 2015, chương trình này được trích dẫn trong “Research Priorities for Robust and Beneficial Artificial Intelligence”, công trình của Stuart Russell, Daniel Dewey và Max Tegmark, đi kèm một thư ngỏ kêu gọi các nhà nghiên cứu AI xem lợi ích xã hội của những hệ thống mình xây dựng nghiêm túc không kém năng lực thuần túy của chúng.

Cũng trong giai đoạn ấy, bài nghiên cứu góp phần tạo nên vốn từ vựng cho lĩnh vực này ra đời. “Corrigibility”, do ông viết cùng Fallenstein, Eliezer Yudkowsky và Stuart Armstrong, được trình bày tại một hội thảo của AAAI đầu năm 2015. Bài viết đề cập đến một vấn đề nghe qua tưởng đơn giản nhưng thực tế không hề dễ: một hệ thống đủ năng lực để trở nên hữu ích cũng có thể đủ năng lực để chống lại việc bị sửa sai hoặc tắt đi. Soares và Yudkowsky cho biết bài nghiên cứu đã đưa ra thuật ngữ “AI alignment problem” — cụm từ hiện được chính những phòng thí nghiệm mà họ phản đối sử dụng.

Cuối năm 2015, Soares kế nhiệm Luke Muehlhauser làm giám đốc điều hành MIRI, vị trí ông giữ trong tám năm. Dưới sự lãnh đạo của ông, viện tập trung vào toán học trừu tượng thay vì sản phẩm: lý thuyết ra quyết định, sự bất định logic và câu hỏi hình thức về cách một tác nhân nên suy luận về chính mình. Ông đồng viết “A Formal Approach to the Problem of Logical Non-Omniscience” với Scott Garrabrant và những người khác, cũng như “Cheating Death in Damascus”, một bài nghiên cứu về lý thuyết ra quyết định viết cùng Benjamin Levinstein, đăng trên The Journal of Philosophy năm 2020. Năm 2017, ông quay lại Google để trình bày những vấn đề còn bỏ ngỏ trong lĩnh vực căn chỉnh AI, đồng thời lập luận rằng chúng khó hơn những gì giới nghiên cứu vẫn nghĩ. Trên blog Minding Our Way, ông cũng viết Replacing Guilt, một loạt tiểu luận về động lực làm việc mà độc giả giờ có thể mua dưới dạng sách. Trong một số giới, tác phẩm này khiến ông được biết đến nhiều hơn nhờ lời khuyên về cách làm việc chứ không phải những điều ông viết về máy móc.

Bước ngoặt đến vào năm 2023. MIRI thông báo sẽ chuyển trọng tâm khỏi nghiên cứu căn chỉnh AI sang cảnh báo các nhà hoạch định chính sách và công chúng, dù vẫn tiếp tục hỗ trợ một phần công việc kỹ thuật. Soares chuyển từ vị trí giám đốc điều hành sang chủ tịch, còn Malo Bourgon trở thành tổng giám đốc. Năm 2025, Soares nói với The Atlantic rằng ông tập trung nâng cao nhận thức của công chúng vì AI đang phát triển quá nhanh, không đủ thời gian để thiết lập các biện pháp bảo vệ thích đáng.

Sự chuyển hướng ấy dẫn đến If Anyone Builds It, Everyone Dies, cuốn sách ông viết cùng Yudkowsky và được Little, Brown xuất bản vào tháng 9 năm 2025. Luận điểm nằm ngay trong nhan đề. Một siêu trí tuệ được xây dựng “bằng bất cứ kỹ thuật nào gần giống với những kỹ thuật hiện nay” rất có khả năng sẽ dẫn tới sự tuyệt chủng của loài người; nghiên cứu căn chỉnh AI còn lâu mới sẵn sàng; và chỉ có quy định quốc tế mới ngăn được các nhà phát triển chạy đua tạo ra những hệ thống mà các tác giả xem là nguy hiểm thảm khốc. Tháng 10 năm 2025, cuốn sách có tên trong danh sách sách bán chạy nhất của The New York Times. Sau đó là bản tiếng Tây Ban Nha do Planeta phát hành, còn Hayakawa Shobo xuất bản bản dịch tiếng Nhật vào tháng 4 năm 2026.

Phản ứng của độc giả phơi bày mắt xích yếu trong lập luận của cuốn sách. Một số phản biện sắc sảo nhất đến từ những người cũng chia sẻ nỗi lo của các tác giả. Will MacAskill, một trong những người sáng lập phong trào vị tha hiệu quả, gọi cuốn sách là đáng thất vọng và cho rằng sách dựa vào những lập luận yếu, xoay quanh phép so sánh với tiến hóa và giả định không được nêu rõ rằng tiến bộ AI sẽ nhảy vọt thay vì tăng dần. Bài điểm sách của Clara Collier trên Asterisk có nhan đề tóm gọn nỗi thất vọng của những độc giả vốn đồng cảm: “More Was Possible”. Còn một điều khó xử mà Soares hiếm khi nhắc tới. MIRI dành nhiều năm tìm cách giải quyết bài toán căn chỉnh, rồi kết luận rằng bài toán sẽ không được giải quyết kịp thời. Điều đó có thể được hiểu là sự trung thực về mặt trí tuệ, hoặc là lời thừa nhận rằng chính chương trình nghiên cứu của viện đã thất bại. Để bảo vệ niềm tin chắc chắn của mình, ông dùng phép so sánh với cờ vua: ông có thể chắc chắn Magnus Carlsen sẽ đánh bại mình mà không cần biết quân nào sẽ chiếu hết. Với những người chỉ trích ông, đó chính là vấn đề: dự đoán kết cục mà không giải thích các nước đi dẫn tới kết cục ấy.

Không điều gì trong số đó khiến ông bớt cứng rắn. Tháng 10 năm 2026, trên The Most Interesting Thing in AI, podcast do Nicholas Thompson dẫn chương trình, ông nói khả năng nhân loại không còn tồn tại thêm một thập kỷ nữa cao hơn 50%, đồng thời giải thích vì sao tài khoản 401(k) của mình vẫn chưa được đụng đến. Trong cùng cuộc trò chuyện, ông khẳng định kết cục chưa được định đoạt. “Tôi làm mọi điều có thể để ngăn viễn cảnh ấy xảy ra. Tôi không nghĩ đó là điều tất yếu,” ông nói, rồi nhắc đến tiểu luận “On Living in an Atomic Age” của C.S. Lewis. Bài viết lập luận rằng nếu bom rơi xuống, nó nên tìm thấy con người đang làm những việc bình thường, hợp lý, mang tính người — chứ không phải đang co rúm vì sợ hãi. Cách diễn đạt của ông là: “Hãy để nó thấy chúng ta đang vận động chính phủ ban hành các hiệp ước không phổ biến vũ khí hạt nhân.”

Đó là công việc ông đã chọn. Ông vẫn giữ chức chủ tịch MIRI, dành thời gian cho các cuộc phỏng vấn, diễn thuyết và họp báo nhằm biến mối lo ngại từng bị xem là bên lề trong giới nghiên cứu thành một thỏa thuận quốc tế để chặn cuộc đua hướng tới siêu trí tuệ. Tài khoản hưu trí ở Google vẫn còn đó. Chỉ là ông không còn đặt cược vào nó nữa.

Thẻ: trí tuệ nhân tạo, Google, an toàn AI, Eliezer Yudkowsky, Machine Intelligence Research Institute, Nate Soares

Người liên quan

Người liên quan

Thảo luận