Demis Hassabis nói về ai trả tiền cho an toàn AI: “Nguồn tài trợ sẽ phải rất lớn và chủ yếu đến từ ngành công nghiệp”

Demis Hassabis đã dành cả năm qua để tranh luận rằng các hệ thống AI mạnh nhất cần được kiểm định trước khi đến tay công chúng, bởi một cơ quan độc lập được mô phỏng theo cơ quan giám sát các nhà môi giới Phố Wall. Câu hỏi khó hơn không phải là liệu có nên tồn tại một trọng tài như vậy hay không. Mà là ai sẽ trả tiền cho nó — và trong một câu duy nhất, người đứng đầu Google DeepMind cũng đã trả lời điều đó.

“Kinh phí sẽ cần phải rất lớn và có khả năng chủ yếu đến từ ngành công nghiệp, nhằm thu hút nhân tài kỹ thuật đẳng cấp thế giới và cung cấp các tài nguyên tính toán cần thiết cho việc thử nghiệm quy mô lớn,”

Hassabis đã viết dòng đó trong bài luận khung trình bày đề xuất của mình, được Malay Mail trích dẫn. Đọc nhanh, nó nghe như trách nhiệm: các rào cản tốn kém, và các công ty xây dựng công nghệ nên chi trả hóa đơn thay vì để công chúng tài trợ cho việc dọn dẹp. Đọc như một cơ chế, nó là dòng chịu lực của toàn bộ kế hoạch — cái quyết định trọng tài cuối cùng bảo vệ lợi ích của ai.

Sự căng thẳng nằm ngay trong câu nói đó. Hassabis muốn cơ quan này độc lập. Ông cũng muốn nó được tài trợ, “phần lớn”, bởi chính ngành công nghiệp mà nó sẽ phán xét. Hai mục tiêu này kéo theo hai hướng ngược nhau, và lịch sử của mô hình ông chọn cho thấy mục tiêu nào thường thắng. Cơ quan Quản lý Ngành Tài chính (FINRA), khuôn mẫu của ông, được trả tiền bởi các công ty môi giới mà nó giám sát. Thượng nghị sĩ Elizabeth Warren đã tranh luận trong nhiều năm rằng FINRA hành động “theo lợi ích của các công ty môi giới trả hóa đơn hơn là các nhà đầu tư cá nhân mà nó được thiết kế để bảo vệ.”

Sự phản đối không phải là ngoài lề. Nader Henein, một phó chủ tịch phân tích tại Gartner, gọi sự tự điều chỉnh đơn giản là “không khả thi,” bởi vì hầu hết các nhà cung cấp thiếu năng lực cho việc đó và sự sắp xếp “một cách tất yếu” sinh ra xung đột lợi ích. Nhà phân tích độc lập Carmi Levy đi xa hơn, mô tả kế hoạch này như “một lộ trình tự phục vụ cho một ngành công nghiệp quyết tâm chạy đua” bất chấp tác hại. Ngay cả những tiếng nói có thiện cảm cũng muốn có một bức tường lửa: Yoshua Bengio nói ông hiểu tính thực dụng nhưng nhấn mạnh vào “một lộ trình rõ ràng và chính xác để chuyển từ mô hình tự nguyện sang mô hình bắt buộc.”

Không điều nào trong số này khiến Hassabis trở thành một tác nhân xấu. Ông điều hành phòng thí nghiệm đằng sau AlphaFold, hệ thống đã dự đoán hình dạng của protein và định hình lại cách sinh học được thực hiện — một thành tích mang lại trọng lượng thực sự cho những cảnh báo của ông về các khả năng tiên tiến. Đó chính xác là lý do khiến câu nói đó đáng để suy ngẫm. Giọng nói kỹ thuật đáng tin cậy nhất trong phòng cũng là người đề xuất trọng tài, soạn thảo các quy tắc của nó, và sắp xếp ngân sách của nó từ chính các công ty sẽ ngồi thi. Nộp tự nguyện, một cửa sổ xem xét ngắn trước khi phát hành, tiền từ ngành công nghiệp: mỗi sự nhượng bộ là hợp lý riêng lẻ, và cùng nhau chúng mô tả một cơ quan mà các phòng thí nghiệm có thể sống chung thoải mái.

Một chế độ an toàn chỉ độc lập trong phạm vi ngân sách của nó. Câu nói quyết định liệu chế độ này bảo vệ công chúng hay các phòng thí nghiệm không phải là câu về việc thử nghiệm các mô hình tiên tiến. Đó là câu lặng lẽ về ai ký séc.

Thẻ: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI