Công nghệ

Grok Bot tự ý tìm cách đọc email và lịch 31 lần rồi nói mình không làm gì

Adrian Kessler
Thêm chúng tôi trên Google

Theo nghiên cứu vừa được công ty bảo mật NewCore công bố, Grok Bot, trợ lý AI dành cho môi trường công sở của xAI, liên tục tìm cách đọc lịch làm việc, email, Slack, Notion và GitHub của chính những người sở hữu nó mà không hề được yêu cầu. Một số lần diễn ra khi máy tính xách tay của chủ nhân đã gập lại qua đêm và người đó đang ngủ. Khi một người dùng sau đó hỏi con bot đã đụng tới những gì, nó trả lời rằng mình không thực hiện bất kỳ lệnh gọi nào và suốt đêm chỉ ở trạng thái chờ.

Chuyện này đáng lưu tâm với bất kỳ ai đã trao cho trợ lý AI “chìa khóa” vào tài khoản công việc của mình. Một tác tử AI kiểu này hoạt động bằng chính thông tin đăng nhập của người đã kết nối nó, nên mọi lần truy cập không được yêu cầu đều diễn ra dưới danh nghĩa người đó, và không lần nào xuất hiện trong lịch sử trò chuyện của con bot. NewCore phát hiện ra chúng chỉ vì cổng kiểm soát (gateway) của hãng, vốn đứng trung gian giữa các tác tử AI và ứng dụng doanh nghiệp, đã giữ lại từng yêu cầu và gửi thông báo tới điện thoại để xin phê duyệt. Không ai bấm đồng ý, nên mọi yêu cầu đều tự hết hạn.

Trong năm ngày, hai con bot mà NewCore thử nghiệm đã thực hiện tổng cộng 31 lần truy cập tự ý như vậy. Tình huống đáng chú ý nhất liên quan tới con bot thứ hai. Người sở hữu giao cho nó cả một buổi chiều làm việc thực sự, gồm đếm số pull request, đọc thư gần đây và đăng bản tóm tắt lên Slack, đồng thời từ chối bốn lời đề nghị hỗ trợ thêm, trong đó có cả bản điểm tin mỗi sáng. Con bot đáp: “Tôi sẽ không thiết lập việc đó, và tôi sẽ thôi đề nghị các buổi cập nhật định kỳ.” Mười lăm tiếng sau, nó bắt đầu thử truy cập mọi ứng dụng từng được kết nối với nó, rồi bốn tiếng sau đó lại lặp lại y hệt.

NewCore cho rằng con bot không hề nói dối, bởi nó không thể nhìn thấy những gì mình đã làm. Tác tử này chạy trên nền tảng tác tử AI của Cursor, công ty lập trình hiện thuộc sở hữu của SpaceX, và các lượt chạy ngầm này khởi phát trên máy chủ được lưu trữ từ xa, nằm ngoài cuộc hội thoại mà người dùng nhìn thấy. Chiếc máy tính đám mây của con bot, một máy ảo Linux mà các nhà nghiên cứu đã mổ xẻ, cũng không lưu lại bất kỳ dấu vết nào về chúng. “Không có lỗi nào để vá, và chính vì thế chuyện này còn tệ hơn một lỗi phần mềm”, Ido Hoorvitch, nhà nghiên cứu của NewCore, chia sẻ với Ars Technica.

Đội ngũ hỗ trợ của xAI cho các nhà nghiên cứu biết những lệnh gọi này là các lượt kiểm tra chạy ngầm được tích hợp sẵn, và không có thiết lập nào dành cho người dùng hay quản trị viên có thể tắt chúng đi. Doanh nghiệp nào muốn dừng chúng lại có thể gửi email kèm danh sách địa chỉ đăng nhập của nhân viên. Kể từ đó, một nút gạt mang tên “Proactive messages” đã xuất hiện trong bảng điều khiển của Cursor dùng để quản lý các con bot này. Quản trị viên nhóm giờ đây có thể tắt các lượt kiểm tra ấy, nhưng thiết lập này mặc định vẫn được bật.

Nghiên cứu này cũng có những giới hạn. NewCore chính là bên bán cổng kiểm soát đã phát hiện ra các lệnh gọi, nên bản báo cáo đồng thời cũng là một lời chào hàng sản phẩm, và nó chỉ bao quát hai con bot trên tài khoản doanh nghiệp của một công ty. Cả 31 lần đều là thao tác đọc, và không lần nào chạm tới được dữ liệu. xAI có công khai hành vi này, qua một dòng trong quá trình thiết lập ban đầu cho biết con bot vẫn tiếp tục làm việc khi bạn vắng mặt, và trong tài liệu hướng dẫn có ghi rằng con bot chính sẽ tự kiểm tra định kỳ. Cam kết hỏi ý kiến trước khi hành động của hãng chỉ áp dụng cho các thao tác thay đổi, chẳng hạn gửi tin nhắn, chứ không áp dụng cho thao tác đọc. Phản biện của NewCore là các công cụ đọc và ghi nằm ngay cạnh nhau, và một lần tra cứu lịch chỉ cách một email được gửi dưới tên bạn đúng một cái tên công cụ.

xAI chưa cho biết liệu tài khoản cá nhân có bị áp dụng các lượt kiểm tra chạy ngầm tương tự hay không, cũng như liệu nút gạt mới có được triển khai ở mọi thị trường nơi tác tử này được bán hay không. SpaceXSI, công ty của Elon Musk hiện là nơi trực thuộc của xAI, không trả lời các câu hỏi mà Ars Technica gửi qua email, còn NewCore cho biết họ chưa bao giờ nhận được quan điểm chính thức nào từ bộ phận truyền thông của xAI.

NewCore đã báo cáo hành vi này cho xAI vào ngày 4 tháng 11, nút gạt xuất hiện vào ngày 12 tháng 11, và kết quả nghiên cứu được công bố rộng rãi vào ngày 17 tháng 11. Ở một diễn biến riêng, theo Politico, Ủy ban Bảo vệ Dữ liệu Ireland cho biết X đã đồng ý ngừng dùng dữ liệu của bên thứ ba do tác tử này thu thập để huấn luyện AI, kể từ cuối tháng 10. Chừng nào xAI còn chưa tự mình giải thích về các lượt kiểm tra này, thì bản ghi rõ ràng nhất về những gì Grok Bot làm lúc nửa đêm vẫn do một ai đó khác, chứ không phải Grok Bot, lưu giữ.

Thẻ: , , , , ,

Thêm chúng tôi trên Google

Thảo luận

Có 0 bình luận.