Công nghệ

Điều khoản mới của Wells Fargo bắt khách hàng chịu lỗi của tác tử AI

Susan Hill
Thêm chúng tôi trên Google

Wells Fargo đang viết lại thỏa thuận áp dụng cho ứng dụng và website của ngân hàng, theo đó mọi hành động của một AI agent bên ngoài trong tài khoản khách hàng đều được coi là hành động của chính khách hàng. Ngân hàng cho biết sẽ thực hiện chỉ dẫn của agent mà không kiểm tra, không giám sát những gì agent làm và sẽ coi lỗi của agent là lỗi của khách hàng. “Việc bạn sử dụng bất kỳ AI Agent nào đều HOÀN TOÀN DO BẠN TỰ CHỊU RỦI RO”, điều khoản mới viết bằng chữ in hoa.

Với bất kỳ ai từng trao mật khẩu ngân hàng cho một con bot mua sắm hay một trợ lý quản lý chi tiêu, điều này làm thay đổi người phải trả tiền khi phần mềm gặp sự cố. Một khoản thanh toán bị trả hai lần, một đơn hàng bị đặt mười lần hay một lệnh chuyển tiền bị kích hoạt bởi trang web gài bẫy sẽ thuộc về chủ tài khoản chứ không phải ngân hàng, trừ khi luật quy định khác. Không ai phải ký gì cả: khách hàng tiếp tục dùng ngân hàng trực tuyến sau thời điểm thay đổi được xem là đã chấp nhận. “Người tiêu dùng ủy quyền mục tiêu, chứ không phải từng cú nhấp chuột”, bà Kacy Kim (Kacy Kim), giáo sư marketing tại Đại học Bryant chuyên nghiên cứu hành vi người tiêu dùng, nói với Wired.

Định nghĩa này rất rộng. Wells Fargo gọi “AI Agent” là bất kỳ phần mềm nào thực hiện hành động “tự chủ, bán tự chủ hoặc không tự chủ” thay mặt một người, phạm vi vượt xa những chatbot được bán như trợ lý cá nhân. Khách hàng phải gánh chi phí khi agent hiểu sai chỉ dẫn, làm những việc không ai yêu cầu, hành động dựa trên “dữ liệu đầu vào bị thao túng” hoặc vượt quá thẩm quyền được giao. Các agent do những người mà khách hàng cho phép truy cập tài khoản vận hành cũng chịu cùng quy tắc, và người dưới 18 tuổi hoàn toàn không được kết nối agent.

Việc tắt một agent cũng là trách nhiệm của khách hàng. Điều khoản nêu rõ khách hàng phải tự thu hồi quyền truy cập của agent, lưu giữ bằng chứng đã làm vậy và nộp bằng chứng đó nếu ngân hàng yêu cầu. Cho đến khi báo cho Wells Fargo, họ vẫn chịu trách nhiệm về mọi việc agent làm. Điều này đi theo logic của quy định Mỹ về chuyển tiền điện tử, Regulation E, vốn coi các giao dịch do người mà bạn đã đưa thẻ hoặc thông tin đăng nhập thực hiện là được ủy quyền cho đến khi bạn yêu cầu ngân hàng chặn.

Wells Fargo vẫn cho phép agent truy cập, đặt ngân hàng này ở phía dễ dãi của một ngành đang đóng cửa dần. Theo Wired, JPMorgan Chase đã sửa điều khoản để cấm các agent bên thứ ba đăng nhập bằng thông tin xác thực của khách hàng, Bank of America cảnh báo khách hàng không chia sẻ thông tin đăng nhập với agent, còn Citibank và PNC bổ sung những cảnh báo riêng. Axios đưa tin Morgan Stanley đã chặn các agent bên thứ ba khỏi nền tảng của mình. Wells Fargo giữ quyền cắt các kết nối mà agent sử dụng hoặc chặn hẳn bất kỳ agent nào.

Làn sóng phản ứng không dừng ở lĩnh vực ngân hàng. Amazon đã chặn agent Muse của Meta mua hàng trên cửa hàng của mình, còn United Airlines cho biết các bot cá nhân sẽ không thể mua vé máy bay thay hành khách. Trong bài của Wired, American Express là ngoại lệ hiếm hoi: hãng cho biết một số lỗi của agent, chẳng hạn đặt quá nhiều một mặt hàng, trong tương lai có thể đủ điều kiện được hoàn tiền nếu người mua không lấy lại được tiền từ nhà bán lẻ.

Chưa rõ cách diễn đạt mới sẽ thay đổi bao nhiêu trên thực tế. Các điều khoản nhiều lần viện dẫn “luật hoặc quy định”, và chưa có tòa án nào phán quyết ai phải chịu thiệt hại khi một agent do khách hàng bật lên làm điều khách hàng không hề có ý định. Nhóm người dùng cũng còn nhỏ. “Toàn bộ dữ liệu của chúng tôi cho thấy hầu hết mọi người thậm chí không biết agent là gì, càng không dùng chúng”, nhà phân tích Sucharita Kodali (Sucharita Kodali) của Forrester nói với Wired. Và các ngân hàng không chống lại agent nói chung. “Họ khóa cửa với các agent bên ngoài và xây agent của riêng mình”, ông Luca Cian (Luca Cian), giáo sư Đại học Virginia chuyên nghiên cứu tâm lý người tiêu dùng và AI, nhận định. Trợ lý AI tạo sinh của chính Wells Fargo đã xử lý hơn một tỷ lượt tương tác.

Các điều khoản mới chỉ áp dụng cho khách hàng ngân hàng trực tuyến và di động tại Mỹ của Wells Fargo, và mọi ngân hàng được nêu tên đến nay đều là ngân hàng Mỹ. Tại Liên minh châu Âu, các quy định thanh toán vốn đã thúc đẩy những ứng dụng đọc dữ liệu hoặc chuyển tiền sử dụng các kết nối được cấp phép do ngân hàng cung cấp thay vì dùng chung mật khẩu, nên chỗ cho các agent đăng nhập như khách hàng ít hơn.

Thỏa thuận cập nhật của Wells Fargo có hiệu lực vào thứ Ba, ngày 24 tháng 11, và áp dụng với bất kỳ ai tiếp tục dùng website hoặc ứng dụng của ngân hàng sau ngày đó. Lệnh cấm của JPMorgan đối với các agent dùng thông tin xác thực được đưa ra vào cuối tháng 10, cùng ngày Bank of America gửi cảnh báo. Wells Fargo cũng giữ phương án yêu cầu khách hàng đăng ký agent của mình với ngân hàng, qua đó có được danh sách những con bot mà ngân hàng nói là không giám sát.

Thẻ: , , , , ,

Thêm chúng tôi trên Google

Thảo luận

Có 0 bình luận.