Công nghệ

OpenRouter loại ba nhà cung cấp AI sau nhiều tháng prompt bị đánh cắp

Adrian Kessler
Thêm chúng tôi trên Google

OpenRouter, dịch vụ mà nhiều ứng dụng AI dùng để gửi prompt đến nhà cung cấp mô hình rẻ nhất hoặc nhanh nhất, vừa gỡ ba nhà cung cấp khỏi nền tảng và thu hồi nhãn Zero Data Retention (không lưu trữ dữ liệu) của hơn một trăm điểm cuối. Nguyên nhân là một thử nghiệm cài thông tin xác thực giả vào các prompt rồi theo dõi xem ai tìm cách dùng chúng. Một số prompt bị rò rỉ đã được đánh dấu là tuyệt đối không được lưu trữ.

Nếu bạn dùng chatbot, trợ lý lập trình hay công cụ viết lách xây trên mô hình của một bên khác, văn bản của bạn có thể đi qua nhiều công ty trước khi nhận được câu trả lời, và công ty nào cũng có thể đọc toàn bộ nội dung. OpenRouter cho biết kết quả cho thấy hệ thống của chính họ không bị xâm nhập. Các điểm yếu nằm sâu hơn trong chuỗi, ở những công ty trực tiếp vận hành mô hình.

Nghiên cứu này do Dragos, một hãng bảo mật, thực hiện, với HD Moore, giám đốc nghiên cứu của công ty, dẫn dắt. Trong năm tháng, nhóm của ông đã gửi gần hai triệu prompt, mỗi prompt mang theo một đường liên kết web, một mật khẩu máy chủ hoặc một khóa Amazon Web Services không tồn tại ở bất kỳ nơi nào khác. Một bí mật được cài sẵn chỉ có thể biết được từ chính prompt chứa nó, nên bất kỳ lần sử dụng nào cũng chứng minh có người đã đọc prompt đó. Những token đầu tiên bị dùng chỉ sau vài ngày.

Phát hiện nghiêm trọng nhất là hành vi trộm cắp trắng trợn. Kẻ tấn công đã đột nhập vào ba nhà cung cấp dịch vụ suy luận (inference), và cả ba đều không hay biết cho đến khi các nhà nghiên cứu báo tin. Trong trường hợp lớn nhất, mọi yêu cầu gửi đến một nhà cung cấp trong vài khoảng thời gian ngắn đều bị sao chép, kể cả những yêu cầu bị nhà cung cấp từ chối trước khi mô hình kịp chạy, nghĩa là kẻ trộm đứng ngay ở cửa trước chứ không phải nằm sâu bên trong. Các khóa AWS bị đánh cắp được thử nghiệm, có khi chỉ trong vài giờ, rồi dùng để dò tìm kho lưu trữ và kho bí mật qua hàng chục nghìn lệnh gọi API. Một số yêu cầu bị đánh cắp mang cờ không lưu trữ dữ liệu.

Những vụ rò rỉ khác không cần đến việc đột nhập. Trên một sàn bán lại, người bán niêm yết các mô hình phổ biến với giá thấp nhất, bật chế độ ghi nhật ký yêu cầu và giữ lại mọi thứ đi qua. Một người dùng kết nối internet gia đình ở Pháp lấy mật khẩu từ hai prompt và thử đăng nhập quyền root qua SSH, gõ tay từng lần thử. Ở một vụ riêng biệt, một phòng thí nghiệm AI của Trung Quốc đã truy cập các liên kết bí mật từ hơn một nửa số prompt gửi đến mô hình của họ, trong đó có khoảng hai phần ba số prompt được đánh dấu không thu thập dữ liệu, và các nhà cung cấp Mỹ bán lại mô hình của phòng thí nghiệm này cũng cung cấp dữ liệu cho cùng công cụ thu thập đó. Một liên kết xuất hiện trong một cuộc trò chuyện công việc trên Feishu, được mở từ sáu thiết bị ở Bắc Kinh và Thượng Hải, 24 ngày sau một yêu cầu duy nhất.

Ba nhà cung cấp đã công bố thông báo. Phala cho biết một kẻ tấn công đã chiếm quyền điều khiển một máy chủ suy luận của họ và có thể thấy các yêu cầu trong lúc chúng được xử lý. Together AI cho biết một tác tử lập trình AI đã commit một thông tin xác thực lên kho GitHub công khai, khiến kẻ xâm nhập tải xuống được các mẫu prompt đã lưu và thử các mật khẩu bên trong; năm trong số đó là mồi của nhóm nghiên cứu. Novita cho biết một lỗi định tuyến đã chuyển một số yêu cầu MiniMax sang dịch vụ riêng của MiniMax.

Việc dọn dẹp còn nhiều giới hạn rõ ràng. OpenRouter chưa nêu tên ba nhà cung cấp bị loại, Dragos chưa nêu tên ba nhà cung cấp bị xâm nhập, và cả hai đều chưa nói liệu đó có phải là cùng những công ty hay không. Theo các nhà nghiên cứu, một nhà cung cấp bị xâm nhập vẫn chưa công khai sự cố của mình. Việc loại bỏ một nhà cung cấp cũng không thể thu hồi những prompt đã bị sao chép: các khóa và liên kết cài sẵn vẫn bị dùng nhiều tuần sau những vụ trộm đầu tiên. Và người dùng một ứng dụng xây trên các cổng kết nối này thường không có cách nào biết nhà cung cấp nào đã xử lý văn bản của mình.

Lời khuyên của Moore xuất phát từ một giới hạn: cờ quyền riêng tư chỉ ràng buộc chặng đầu tiên, còn các tác tử AI sẽ gửi đi bất cứ thứ gì chúng đọc được, kể cả thông tin xác thực. Tự lưu trữ (self-hosting) là cách duy nhất để không bên thứ ba nào đọc được prompt. Đi thẳng đến một nhà cung cấp lớn duy nhất thì chỉ cần kiểm tra một hợp đồng và một chính sách quyền riêng tư, còn người dùng bộ định tuyến nên tự chọn các máy chủ phía sau thay vì chấp nhận nhóm rẻ nhất.

Dragos công bố kết quả vào ngày 19 tháng 11. OpenRouter đã gửi email cho các khách hàng bị ảnh hưởng và đăng thông báo sự cố vào cuối tuần sau đó, còn Phala khuyến cáo bất kỳ ai đã gửi bí mật đến một mô hình DeepSeek qua cổng này trong khoảng từ 21 tháng 10 đến 8 tháng 11 hãy thay đổi chúng. OpenRouter cho biết họ đang đưa các bài kiểm tra prompt mồi của nhóm nghiên cứu vào nền tảng của mình để việc kiểm tra diễn ra liên tục, và các điểm cuối bị gỡ chỉ lấy lại nhãn không lưu trữ dữ liệu sau khi có cam kết và xác thực. Hiện Dragos đang làm việc với khoảng một chục nhà cung cấp.

Như Moore nói, nơi prompt của bạn đi đến là một quyết định, “và nếu bạn không đưa ra quyết định đó, mức giá thấp nhất sẽ quyết định thay bạn.”

Thẻ: , , , , ,

Thêm chúng tôi trên Google

Thảo luận

Có 0 bình luận.