CEO OpenAI Sam Altman vạch ba kịch bản kết cục cho AI, hai trong số đó có từ 2023

CEO OpenAI Sam Altman đã phác thảo cho nhân viên một lộ trình về cách cuộc đua tiến tới siêu trí tuệ có thể kết thúc, và điều đáng chú ý nhất là hầu như chẳng có gì mới. Trong ba kịch bản ông trình bày với các nhân viên, hai kịch bản gần như trùng với những ý tưởng mà chính công ty của ông đã công bố thành văn từ nhiều năm trước. Cả hai đều chưa bao giờ được triển khai. Kịch bản thứ ba, cũng là điều khiến báo chí đưa tin rầm rộ, chỉ được ông nêu ra để bác bỏ.

Gạt các nhãn gọi sang một bên, mỗi phương án đều xoay quanh cùng một câu hỏi: ai sẽ kiểm soát năng lực tính toán mà các mô hình tiên phong cần đến. Những phát biểu được cho là của chính Altman cũng lý giải vì sao câu hỏi ấy liên tục bị gác lại.

Sam Altman đã nói gì với nhân viên OpenAI về hồi kết của AI?

The Information là đơn vị đầu tiên đưa tin về buổi thuyết trình nội bộ, dẫn lời những người am hiểu sự việc; sau đó The Decoder, Forbes và Latin Times cũng đưa tin. Bài viết dựa trên các nguồn tin giấu tên. Phương án thứ nhất là thành lập một cơ quan quốc tế theo mô hình International Atomic Energy Agency, có nhiệm vụ thực thi các tiêu chuẩn an toàn đối với những phòng thí nghiệm phát triển AI tiên phong: kiểm tra hệ thống, yêu cầu kiểm toán, giám sát mức sử dụng năng lực tính toán và năng lượng. Hai người nói với The Information rằng Altman dường như ủng hộ phương án này.

Phương án thứ hai được ông gọi là “kế hoạch Demis”, đặt theo tên Demis Hassabis, đồng sáng lập Google DeepMind, người từng đề xuất thành lập một tổ chức nghiên cứu AI theo mô hình CERN khoảng một thập kỷ trước. Trong phiên bản của Altman, các phòng thí nghiệm hàng đầu sẽ sáp nhập thành một thực thể duy nhất, hoặc hoạt động dưới một mái nhà chung; thực thể đó sẽ cung cấp mô hình cho những quốc gia hợp tác.

Phương án thứ ba là “kế hoạch Eliezer”, lấy tên nhà lý thuyết an toàn AI Eliezer Yudkowsky. Một nhà phát triển tạo ra AI tự cải thiện trước các đối thủ, rồi dùng sức mạnh kinh tế có được để khiến mọi đối thủ khác không còn tài nguyên tính toán; theo cụm từ được nhắc đến rộng rãi, hệ thống này sẽ “nung chảy GPU của tất cả những người khác”. “Rõ ràng tôi cho rằng phương án đó thật tệ,” Altman được cho là đã nói, đồng thời cho biết ông đưa nó vào để bảo đảm “đầy đủ các phương án”.

OpenAI đã phác thảo gần hết danh sách này từ năm 2023

Cơ quan giám sát là phương án lâu đời nhất trong danh sách. Trong một bài đăng có chữ ký của Altman, Chủ tịch OpenAI Greg Brockman và nhà khoa học trưởng khi đó là Ilya Sutskever, công ty cho rằng thế giới có thể “rốt cuộc sẽ cần một thứ gì đó giống International Atomic Energy Agency dành cho các nỗ lực phát triển siêu trí tuệ” — một cơ quan có thể “kiểm tra hệ thống, yêu cầu kiểm toán” và hạn chế việc triển khai nếu năng lực hoặc mức sử dụng tính toán vượt quá một ngưỡng nhất định.

Bài đăng đó cũng phác thảo thêm hai hướng đi. Bài viết cho rằng các chính phủ lớn “có thể lập một dự án để nhiều nỗ lực hiện nay cùng tham gia”, một ý tưởng gần giống với phương án sáp nhập mà giờ đây Altman cho là của Hassabis. Hoặc ngành công nghiệp “có thể cùng đồng thuận” rằng “tốc độ tăng trưởng năng lực AI ở tuyến đầu được giới hạn ở một mức nhất định mỗi năm”.

Câu cuối cùng đó chính là một giới hạn tốc độ. Theo The Decoder, Altman phàn nàn trong nội bộ rằng có quá ít đề xuất khả thi về việc đặt “giới hạn tốc độ” cho quá trình phát triển AI. Công ty của ông đã công bố một đề xuất như vậy. Nhưng điều họ chưa bao giờ tạo ra là một cơ quan có đủ quyền lực để thực thi nó.

Vì sao cơ quan giám sát chỉ nằm trên giấy: OpenAI nói họ không thể giảm tốc

Lý do được nêu ra ngay trong cuộc họp đó. Altman được cho là đã nói với nhân viên rằng hai kế hoạch đầu tiên đòi hỏi sự phối hợp ở quy mô lớn, còn OpenAI hiện không thể chấp nhận nhường bước, trong bối cảnh cả công ty này lẫn Anthropic đều đang tiến gần hơn tới các đợt chào bán cổ phiếu ra công chúng. Crypto Briefing đã giải thích rõ logic của giới đầu tư: các công ty chuẩn bị niêm yết sẽ mài sắc lợi thế cạnh tranh, chứ không trao lợi thế đó cho một liên minh.

Một International Atomic Energy Agency dành cho AI cũng cần Washington và Bắc Kinh chấp nhận để thanh tra vào những phòng thí nghiệm nhạy cảm nhất của họ. Hiện tại, Forbes lưu ý, ngay cả đề xuất của Mỹ về việc hai nước thông báo cho nhau khi xảy ra sự cố AI nguy hiểm cũng mới chỉ là một bản phác thảo, chưa phải thỏa thuận.

Thay vào đó, các phòng thí nghiệm đang xây dựng một FINRA, chứ không phải một International Atomic Energy Agency

Dự án quản trị đang thực sự được xúc tiến không khớp với bất kỳ phương án nào trong ba phương án của Altman. OpenAI, Google và Anthropic đang xây dựng một nhóm tự quản lý mang tên Standards Authority for Frontier AI, theo mô hình FINRA — tổ chức tư nhân giám sát các công ty môi giới ở Mỹ. Latin Times mô tả đây là một khuôn khổ gồm kiểm định trước khi phát hành, báo cáo sự cố và chứng nhận kiểm toán viên, nhưng không có quyền thực thi mang tính ràng buộc; ba phòng thí nghiệm vẫn bất đồng về việc ai sẽ kiểm định các mô hình mới. Mark Zuckerberg của Meta và Jensen Huang của Nvidia cho rằng những quy định kiểu này phần lớn chỉ bảo vệ các doanh nghiệp đã có vị thế, trong khi một vụ kiện chống độc quyền tại Mỹ đã cáo buộc sự phối hợp về an toàn giữa các phòng thí nghiệm chẳng khác nào một cartel.

Các nhãn gọi này cũng đáng được xem xét lại. Hình ảnh ban đầu của Yudkowsky — “đốt hết GPU” — là một thí nghiệm tư duy về mức độ quyết liệt mà một hệ thống được căn chỉnh tốt cần thực hiện để ngăn chặn một cuộc đua liều lĩnh; ông viết rằng đó không phải điều ông thực sự muốn xảy ra. “Kế hoạch Eliezer” của Altman biến chiếc phanh khẩn cấp ấy thành một chiến thắng độc quyền. Theo bài tường thuật của The Decoder về báo cáo, một nguồn tin cho biết phát biểu này được hiểu là lời mỉa mai nhắm vào một đối thủ, xét đến mối liên hệ giữa Yudkowsky và Anthropic.

Theo The Information, OpenAI dự định quyết định trong vòng một năm sẽ chọn con đường nào. Cơ quan tiêu chuẩn của ngành đặt mục tiêu ra mắt vào cuối năm 2026 hoặc đầu năm 2027.

Cho đến khi OpenAI đưa ra lựa chọn, công ty vẫn tiếp tục lao đi trên con đường duy nhất không có trong danh sách của Altman: chính cuộc đua này.

Thẻ: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky