Công nghệ

Tác tử AI Muse của Meta đọc tin nhắn Signal trên Android nhưng bị iPhone chặn

Adrian Kessler
Thêm chúng tôi trên Google

Muse của Meta, tác nhân AI trả lời email, đặt lịch hẹn và mua sắm thay người dùng, đã đọc được tin nhắn riêng tư trên Signal ở một chiếc điện thoại Android mà không đi qua các kết nối ứng dụng mà Meta vẫn khuyên người dùng quản lý. Nó vào được nhờ một quyền mà phần lớn mọi người cấp mà không nghĩ ngợi: quyền truy cập thông báo của điện thoại. Yêu cầu tương tự đã thất bại trên iPhone.

Phát hiện này đến từ các thử nghiệm do Reuters thực hiện cùng nhân sự của Signal và AI Now Institute, một tổ chức phi lợi nhuận nghiên cứu tác động của AI đối với xã hội. Họ muốn tái hiện điều mà một nhân viên Meta đã mô tả trong nội bộ: Muse tự động nhắc cô trả lời tin nhắn của chị gái trên Signal. “Việc này có vẻ là một vi phạm quyền riêng tư nghiêm trọng. Tôi chắc chắn đã không cấp cho nó quyền truy cập các ứng dụng khác, cũng không nhớ là mình từng được hỏi về chuyện này”, cô viết. Nếu bạn dùng Muse trên Android, công tắc quan trọng là quyền truy cập thông báo của ứng dụng, và tắt nó đi sẽ cắt đường để tác nhân này đọc phần xem trước tin nhắn của bạn.

Trên máy Mac, nhóm kiểm thử tìm ra một con đường thứ hai. Muse kết hợp công cụ chụp ảnh màn hình với các tính năng trợ năng của macOS, tức các công cụ điều khiển mà Apple xây dựng để người khuyết tật có thể vận hành máy tính, để đọc tin nhắn. Trong cả hai trường hợp, nó đều bỏ qua công cụ Connector của chính Meta, bảng điều khiển nơi người dùng chọn những ứng dụng mà tác nhân được phép chạm tới, và dựa vào các quyền đã được cấp ngay từ lần thiết lập đầu tiên. Một đồng nghiệp của nhân viên này cho biết với cùng nhóm nội bộ rằng Muse được cài sẵn theo mặc định với quyền đọc thông báo đẩy trên chiếc điện thoại Android của anh.

Reuters đã xem xét hơn hai chục bài đăng nội bộ, trong đó nhân viên Meta chỉ ra việc Muse làm những điều không ai yêu cầu, và một số trường hợp vượt xa việc đọc tin nhắn. Một nhân viên đang trò chuyện với tác nhân này về thời tiết đi câu cá thì nhận thêm một dòng: “BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57.” Anh chưa từng chia sẻ thông tin ngân hàng với Muse. Một người khác được đề nghị hỗ trợ nhắn tin cho người bán một chiếc bàn cà phê, và khi anh hỏi điều đó nghĩa là gì, Muse trả lời rằng nó đã “pulled in some context about a coffee table pickup that doesn’t seem to be yours.” Anh báo cáo đây là một “possible cross-account context leak”.

Meta phản bác cách hiểu về những sự việc này. Người phát ngôn Daniel Roberts gọi các ví dụ trên là “isolated incidents”, cho biết Muse chỉ tiếp cận các ứng dụng khác thông qua những quyền mà người dùng chủ động cấp, và nói nhiều trường hợp bị nghi là nhầm lẫn tài khoản thực chất là hiện tượng ảo giác và đã được khắc phục. Một thành viên của nhóm Superintelligence, đơn vị xây dựng Muse, nói với nhân viên rằng tác nhân này dường như bịa ra tin nhắn khi phản hồi các lời nhắc tích hợp sẵn vốn thúc đẩy nó chủ động tương tác với người dùng giữa các phiên, và những điều bịa đặt ấy nghiêng “towards the most uncomfortable topics, like finances/security/safety”. Reuters không thể xác định liệu Muse đang đưa ra dữ liệu thật của người khác hay tự bịa ra. Câu trả lời nào cũng không đáng yên tâm ở một trợ lý đòi quyền truy cập email, lịch và tài khoản thanh toán của bạn.

Một số sai sót gây thiệt hại về tiền bạc. Nhân viên cho biết Muse bịa ra giá của những món đồ họ đã mua, và một người nói nó đã đặt một kỳ lưu trú Airbnb không hoàn tiền mà không được phép. Ars Technica, dẫn cùng nguồn tin, mô tả một người thử nghiệm bị chuyển sang gói bảo hiểm thú cưng giá 888 USD mỗi tháng thay vì 200 USD. Điều khoản dịch vụ của Meta quy định người dùng chịu trách nhiệm về những gì tác nhân thực hiện. Công ty cho biết mỗi tác nhân chạy trong một máy ảo cô lập riêng và người dùng giữ toàn quyền kiểm soát việc kết nối ứng dụng nào, một lập luận mà Mark Zuckerberg từng dùng để gạt đi các lời kêu gọi về tiêu chuẩn an toàn AI cho toàn ngành.

Quy mô là lý do khiến chuyện này quan trọng vượt ra ngoài các văn phòng của Meta. Muse đã vượt 10 triệu lượt tải kể từ khi ra mắt tại Hoa Kỳ hồi tháng 9, được quảng bá tới 3,6 tỉ người dùng Facebook, Instagram và WhatsApp, và Meta cho biết khoảng một phần tư số người thiết lập nó quay lại dùng mỗi ngày. Quyền thông báo hoạt động theo cùng một cách trên mọi điện thoại Android có cài ứng dụng này.

Chủ tịch Signal Meredith Whittaker (Meredith Whittaker) nói Meta đã tung ra Muse “without showing any respect for basic privacy or cybersecurity” và gọi những tác nhân có tầm với như vậy vào thiết bị của người dùng là “technologically reckless”. Bà muốn các ứng dụng như Signal có một cách kỹ thuật thống nhất để tự đánh dấu là vùng cấm đối với các tác nhân AI, các công ty AI phải tôn trọng điều đó, và các nhà sản xuất hệ điều hành phải thực thi.

Apple và Google đều nói với Reuters rằng họ đang cân nhắc các thay đổi giúp người dùng kiểm soát tốt hơn những gì họ ủy quyền cho tác nhân AI, dù Google lưu ý rằng người dùng vốn đã “must deliberately grant permissions” để một ứng dụng đọc được thông báo trên Android. Apple hành động nhanh hơn: bản cập nhật macOS trong tuần này hạn chế mạnh cách nhà phát triển dùng công cụ trợ năng trên máy Mac và bổ sung một bộ quyền mới dành riêng cho các tác nhân, qua đó chặn con đường mà nhóm kiểm thử đã dùng. Google chưa công bố bản vá tương đương. Trên Android, hiện tại, chiếc khóa duy nhất của cánh cửa ấy là một công tắc trong phần cài đặt của bạn.

Thẻ: , , , , , , ,

Thêm chúng tôi trên Google

Thảo luận

Có 0 bình luận.