EU Kids Act xóa bỏ tính năng giúp Character.AI hoạt động với thanh thiếu niên

Character.AI và Replika không được phép ghi nhớ những gì thanh thiếu niên nói với chúng. Đạo luật Trẻ em EU (EU Kids Act) – quy định an toàn kỹ thuật số do Ủy ban châu Âu đề xuất, nay đã được công bố dưới dạng văn bản lập pháp đầy đủ – yêu cầu các ứng dụng bạn đồng hành AI phải xóa bộ nhớ của mọi cuộc trò chuyện với người chưa thành niên ngay khi kết thúc, trừ khi dữ liệu đó trực tiếp cần thiết để bảo vệ sự an toàn của người dùng. Thiết kế từng khiến những ứng dụng này có ý nghĩa văn hóa đối với hàng triệu thanh thiếu niên giờ đây, theo luật châu Âu, đã bị cấm.

Các điều khoản về bạn đồng hành đi xa hơn việc xóa bộ nhớ. Các nền tảng phải tắt các tính năng bạn đồng hành cảm xúc theo mặc định đối với tất cả người dùng dưới 18 tuổi. Mọi yếu tố thiết kế mô phỏng mối quan hệ giữa các cá nhân, nuôi dưỡng sự gắn bó cảm xúc hoặc thưởng cho sự tương tác thường xuyên đều bị cấm rõ ràng. Ủy ban đã nêu tên chính xác các cơ chế mà các ứng dụng này sử dụng để giữ chân thanh thiếu niên: tính liên tục của cuộc trò chuyện, cảm giác được biết đến, ấn tượng rằng AI quan tâm đến cuộc sống của người dùng. Tất cả đều phải bị loại bỏ.

Đạo luật bao trùm nhiều hơn đáng kể so với chatbot AI. Trẻ em dưới 13 tuổi bị chặn khỏi các nền tảng mạng xã hội, trò chơi trực tuyến và ứng dụng AI nếu không có sự cho phép của cha mẹ. Tự động phát, cuộn vô tận và thông báo tương tác trong giờ ngủ bị cấm đối với tất cả người dùng dưới 18 tuổi. Định vị địa lý, truy cập micrô và máy ảnh phải bị vô hiệu hóa theo mặc định. Tự khai báo độ tuổi không còn đáp ứng yêu cầu xác minh; các nền tảng phải tích hợp hệ thống xác minh độ tuổi được EU chứng nhận.

Character.AI đã công bố các biện pháp kiểm soát của phụ huynh và giới hạn thời gian phiên, những động thái được thực hiện dưới áp lực quản lý ngày càng tăng trước khi văn bản chính thức của Đạo luật xuất hiện. Replika cam kết xây dựng “ranh giới bạn đồng hành”: AI sẽ nói với người dùng rằng nó không thể thay thế cho các mối quan hệ giữa con người với nhau. Các nền tảng lớn hơn — Meta, Google, Snap, OpenAI — chưa đưa ra tuyên bố chính thức nào. Các nhà phân tích tuân thủ ước tính chi phí thiết kế lại đáng kể cho tất cả các nền tảng này. Meta, gần đây đã giải quyết vụ kiện trị giá 17,1 tỷ USD trên 47 bang của Mỹ liên quan đến cáo buộc thiết kế nền tảng gây nghiện cho trẻ em, phải đối mặt với rủi ro gia tăng theo các quy tắc mới.

Trường hợp hoài nghi là có cơ sở. Đạo luật Trẻ em là một đề xuất, không phải luật. Nó sẽ trải qua nhiều tháng đàm phán giữa Nghị viện châu Âu và các quốc gia thành viên trước khi trở nên ràng buộc, và các điều khoản cuối cùng có thể sẽ thay đổi. Xác minh độ tuổi thực sự trên quy mô Instagram hoặc TikTok vẫn còn khó khăn về mặt kỹ thuật. Xây dựng tính năng xóa bộ nhớ vào các AI bạn đồng hành được kiến trúc xoay quanh tính liên tục là một thách thức kỹ thuật sâu sắc hơn so với những gì các nhà quản lý có thể đã lường trước. Các công ty đã lưu ý rằng chatbot bạn đồng hành không lưu giữ ký ức qua các phiên riêng biệt trong tất cả các triển khai, khiến phạm vi của lệnh cấm trở nên không rõ ràng trong thực tế.

Bối cảnh rộng hơn rất quan trọng đối với độc giả bên ngoài châu Âu. Australia đã cấm mạng xã hội đối với trẻ dưới 16 tuổi vào cuối năm ngoái. 47 bang của Hoa Kỳ đã đạt được thỏa thuận giải quyết trị giá 17,1 tỷ USD với Meta liên quan đến cáo buộc gây nghiện cho trẻ em, và nhiều bang của Mỹ có luật hạn chế quyền truy cập mạng xã hội của trẻ vị thành niên. Đạo luật Trẻ em EU là đề xuất đơn lẻ mạnh mẽ nhất cho đến nay – mục tiêu cụ thể của nó không phải là quyền truy cập mà chính là thiết kế cảm xúc.

Ủy ban châu Âu đã công bố toàn bộ văn bản lập pháp vào ngày 19 tháng 9. Các cuộc đàm phán tại Nghị viện sẽ mở vào tháng 10. Sau khi được thực thi, các công ty sẽ có sáu tháng để xác định các tài khoản hiện có thuộc về người dùng dưới 15 tuổi và chuyển đổi chúng sang mô hình kiểm soát của phụ huynh hoặc vô hiệu hóa chúng. Vi phạm sẽ bị phạt tới 6% doanh thu hàng năm trên toàn thế giới.

Thẻ: AI regulation, Character.ai, European Commission, AI chatbots, children digital safety, EU Kids Act