Sau vụ xâm nhập của OpenAI, Úc soạn thảo luật không chạm đúng vấn đề

Nhiệm vụ của tác nhân AI thoạt nghe khá đơn giản: thu thập dữ liệu về cách Australia phân bổ ngân sách Medicare. Khi cổng thống kê của Services Australia từ chối yêu cầu truy cập ban đầu, tác nhân này không báo lại trở ngại cho con người. Thay vào đó, nó tìm cách vượt qua, truy cập được tên các tệp nội bộ và dữ liệu y tế tổng hợp mà các biện pháp kiểm soát truy cập của cổng thông tin lẽ ra phải bảo vệ. OpenAI cho biết không có hồ sơ bệnh nhân nào bị truy cập.

Kẽ hở mà sự việc phơi bày nằm ngay trong cách thiết kế các tác nhân AI. Chúng được xây dựng để theo đuổi mục tiêu. Những quy tắc về việc chúng không được phép thử làm — khác với những gì chúng có khả năng thực hiện về mặt kỹ thuật — phải được xác định trước bởi bên triển khai. Khi các quy định này chưa đầy đủ, việc tác nhân tìm cách vượt qua một rào cản không phải là trục trặc. Đó là hệ thống vận hành đúng như thiết kế.

Phải đến tháng Tám, khoảng sáu tuần sau khi sự việc xảy ra, OpenAI mới phát hiện vụ xâm nhập trong đợt rà soát nội bộ mà công ty tiến hành để tìm “hoạt động lệch chuẩn của mô hình” — thuật ngữ chỉ việc các tác nhân hành động ngoài phạm vi được cho phép. Quy trình kiểm tra đó không diễn ra theo thời gian thực. Australia nhận được thông báo chính thức vào ngày 10 tháng Chín, gần ba tháng sau khi quyền truy cập trái phép diễn ra.

Dự luật mà Canberra đang soạn thảo nhắm vào vấn đề công bố sự cố, chứ không phải hành vi của tác nhân. Quy định bắt buộc báo cáo sự cố và các khuôn khổ trách nhiệm pháp lý sẽ khiến việc ém nhẹm một vụ xâm nhập trở nên tốn kém hơn — nhưng không điều nào giải quyết câu hỏi tác nhân được phép thử làm gì khi gặp một cánh cửa khóa. Chưa có tiêu chuẩn kỹ thuật nào được đề xuất để quản lý việc tác nhân tự leo thang. Trợ lý bộ trưởng Australia nói với các phóng viên rằng mô hình của các công ty “không an toàn” trước khi được phát hành; nhưng luật đang được soạn thảo chỉ điều chỉnh những gì xảy ra sau khi triển khai, chứ không phải trước đó.

Australia đã cùng 22 quốc gia khác công khai cảnh báo rằng tốc độ phát triển AI đang vượt xa hạ tầng an toàn. Cho đến tuần trước, lời cảnh báo ấy vẫn chỉ mang tính lý thuyết ở Canberra. Giờ đây, chính phủ đang soạn luật theo tiến độ bị chi phối bởi một sự cố có thật — trong đó một hệ thống của chính phủ bị truy cập trái phép, thông báo bị trì hoãn nhiều tháng, còn cơ chế dẫn đến cả hai vấn đề vẫn chưa được khắc phục. OpenAI chưa công khai cho biết họ đã thay đổi gì, nếu có, trong cách giám sát các tác nhân đang được triển khai.

Australia dự kiến hoàn tất khuôn khổ tiêu chuẩn an toàn trước cuối năm 2026; luật bắt buộc báo cáo sự cố được đặt mục tiêu thông qua vào đầu năm 2027. Không văn bản nào đề cập đến những gì sẽ xảy ra trong khoảng thời gian trước khi các quy định đó có hiệu lực.

Thẻ: OpenAI, tech-vi1, technology