Vua Charles canh bao nhung nguoi tao ra AI ve ‘nguy co hien huu’ tu chinh cong nghe cua ho

“Những người đã tạo ra những công nghệ này hiện đang ngày càng cảnh báo rằng AI có nguy cơ phát triển những khả năng đen tối hơn — thậm chí có thể tước đoạt mạng sống.” Câu nói mà Vua Charles chọn không phải là lời cảnh báo về tin tặc hay các quốc gia thù địch. Đó là một tấm gương, được giơ lên trước những người xây dựng nên các hệ thống, và lời cảnh báo bên trong đó là điều ngài gán cho chính họ.

Đó là một nửa bài phát biểu mà hầu hết các bài báo đã lướt qua. Câu nói được lan truyền lại là câu nhẹ nhàng hơn từ cùng bài phát biểu — về “những mối nguy hiểm hiện sinh khi những công nghệ như vậy rơi vào tay kẻ xấu.” Rơi vào tay kẻ xấu là một khuôn khổ thoải mái nếu bạn là người tung ra công cụ. Nó đặt mối nguy hiểm ở bên ngoài, vào một kẻ phản diện nào đó lạm dụng một công cụ trung tính, thay vì đặt vào chính công cụ đó hay các công ty đang chạy đua để làm cho nó mạnh hơn. Vua Charles đã từ chối dừng lại ở đó.

Thay vào đó, ngài hướng rủi ro trở lại nguồn gốc của nó. Chính những người sáng tạo hiện đang gióng lên hồi chuông cảnh báo, ngài nói — và sau đó đặt một câu hỏi sắc bén với căn phòng: “Chắc chắn, chúng ta cần những phương tiện kiểm soát đầy đủ trước khi quá muộn?”

Sức nặng của câu nói đó nằm ở một từ. Kiểm soát là thứ duy nhất mà một cuộc họp như thế này không thể thực sự trao ra. Nó không có quyền lực theo luật định, không đặt ra giới hạn nào mà một công ty phải tuân theo, và không mang theo bất kỳ hình phạt nào nếu bị phớt lờ. Điều đạt được là một thỏa thuận theo đuổi “các nguyên tắc chung” — một cụm từ mô tả một khát vọng, chứ không phải một cơ chế. Theo mọi lời kể, các giám đốc điều hành đều biết ơn vì cuộc trò chuyện. Lòng biết ơn không phải là một biện pháp bảo vệ.

Có một sự đảo ngược về thể chế ở đây mà thật dễ bỏ lỡ dưới lớp nghi lễ. Một quốc vương không có đòn bẩy nào đối với Nvidia, OpenAI, Anthropic hay Google DeepMind. Ngài không thể cấp phép cho một mô hình, kiểm toán một quá trình huấn luyện, hay làm chậm một đợt triển khai. Những người có thể làm những điều đó — các nhà lập pháp, cơ quan quản lý cạnh tranh, vị bộ trưởng thực sự đang ngồi trong căn phòng — lại không phải là người triệu tập. Một nhân vật có quyền lực biểu tượng và không có quyền lực thực thi đang yêu cầu những người có tất cả quyền lực không bị ràng buộc bởi thực thi trên thế giới hãy tự kiểm soát lấy mình. Đó đại khái là sự sắp xếp mà ngành công nghiệp này đã ưa chuộng từ trước đến nay.

Nhìn theo cách đó, hội nghị thượng đỉnh đã giúp các nhà xây dựng một ân huệ thầm lặng. Nó để câu chuyện trở thành “rơi vào tay kẻ xấu,” khuôn khổ mà trong đó công nghệ là tốt và chỉ có sự lạm dụng nó mới là vấn đề. Nó đã biến một lời cảnh báo về khả năng cố hữu — cỗ máy phát triển “những khả năng đen tối hơn” theo quỹ đạo riêng của nó — thành một cuộc tranh luận quen thuộc về các tác nhân xấu. Và nó bao bọc toàn bộ sự việc trong tính hợp pháp của một Vương quyền mà, dù chân thành đến đâu, cũng không thể bắt buộc một điều khoản bảo vệ nào trong số những điều khoản mà nó kêu gọi.

Cuộc họp diễn ra tại Dumfries House, dinh thự thời Georgia đã được phục hồi của Nhà vua ở Ayrshire, Scotland. Trong phòng có giám đốc điều hành Nvidia Jensen Huang, người sáng lập Google DeepMind Demis Hassabis, giám đốc tài chính OpenAI Sarah Friar, giám đốc phụ trách vấn đề toàn cầu của Anthropic Tino Cuéllar, bộ trưởng trí tuệ nhân tạo của Vương quốc Anh Kanishka Narayan, và Cha Paolo Benanti, cố vấn của Vatican về đạo đức công nghệ. Vua Charles cũng cẩn thận ghi nhận những hứa hẹn của AI — đặc biệt là trong y học — và nêu lên chi phí môi trường của nó. Ngài yêu cầu các vị khách giữ cho công nghệ “vững chắc phục vụ nhân loại, cộng đồng và thế giới tự nhiên.” Không có cam kết ràng buộc nào rời khỏi căn phòng cùng với họ.

Vì vậy, những người quyền lực nhất trong lĩnh vực này đã nghe một nguyên thủ quốc gia mô tả sản phẩm của họ có khả năng, tự nó, tước đoạt mạng sống — và bước ra với khuôn khổ ưa thích của họ còn nguyên vẹn và một buổi tiếp kiến hoàng gia để khoe. Các phương tiện kiểm soát mà Nhà vua yêu cầu vẫn nằm chính xác ở nơi chúng đã ở trước khi ngài phát biểu: trong tay những người mà ngài đang nói đến, và không ai khác.

Thẻ: OpenAI, AI safety, AI risks, King Charles