Người ta tìm đến AI cho sức khỏe tâm thần vì nó trả lời, không phải vì nó hiệu quả

Một điều gì đó đã âm thầm thay đổi trong cách con người vượt qua những đêm tồi tệ nhất. Khi tâm trí tự quay lưng lại với chính mình và không có ai để gọi, một bộ phận ngày càng lớn người trưởng thành giờ đây mở một chatbot thay vào đó — không phải vì họ tin rằng nó hiểu họ, và thường cũng không phải vì nó giúp ích, mà đơn giản là vì nó trả lời. Đó là cốt lõi khó chịu của một cuộc khảo sát mới quy mô lớn về sức khỏe tinh thần, và nó còn kỳ lạ hơn những gì tiêu đề gợi ý.

Cách đọc hiển nhiên là một câu chuyện về lòng tin: con người trao đời sống nội tâm của mình cho máy móc. Nhưng lòng tin là một lăng kính sai lầm. Những con số mô tả thực ra không phải là một phán quyết về việc công nghệ có tốt hay không. Đó là một phán quyết về tính sẵn có — sự thật phũ phàng rằng chatbot ở đó, còn chuyên gia thì không.

Nghiên cứu do công ty bảo hiểm AXA cùng với công ty thăm dò Ipsos thực hiện trên 19.000 người trưởng thành tại 18 quốc gia, cho thấy 63% đã từng tìm đến các công cụ AI với những câu hỏi về sức khỏe tinh thần của họ. Điều khiến con số này đáng dừng lại là sự mâu thuẫn nằm ngay bên cạnh nó. Khoảng 45% không hài lòng với những câu trả lời họ nhận được. Thế nhưng 38% nói rằng họ tin tưởng các nền tảng này hơn một chuyên gia sức khỏe tinh thần con người. Mọi người không hài lòng với lời khuyên nhưng vẫn tìm đến nó.

Điều đó chỉ có ý nghĩa nếu chất lượng chưa bao giờ là yếu tố quyết định. Một chatbot được xây dựng để tạo ra một câu trả lời trôi chảy, chứ không phải một câu trả lời đúng; nó không mang nghĩa vụ chăm sóc và không có nghĩa vụ chuyển tiếp khi phát hiện ai đó đang gặp nguy hiểm. Nó chỉ đơn giản phản hồi, ngay lập tức, miễn phí, không cần giới thiệu hay chờ đợi hàng tháng trời. “AI có sẵn 24/7, miễn phí và nó ở ngay trên điện thoại của bạn khi bạn cô đơn lúc 11 giờ đêm,” như trưởng bộ phận y tế của AXA đã nói. Đó là toàn bộ đề xuất giá trị. Đó cũng là toàn bộ vấn đề.

Cuộc khảo sát hé lộ cái giá của sự đánh đổi. Trong số những người sử dụng chatbot cho các vấn đề sức khỏe tinh thần, 42% nói rằng họ hầu như luôn làm theo lời khuyên mà nó đưa ra — và 28% nói rằng hành động theo khuyến nghị của chatbot đã khiến họ rơi vào hành vi có hại. Một công cụ không có trách nhiệm lâm sàng đang được coi như người ứng cứu đầu tiên bởi những người ít có khả năng nhất để hấp thụ một câu trả lời sai.

Hãy đặt điều đó bên cạnh cách các hệ thống y tế chính thức đang áp dụng cùng một công nghệ, và hai thế giới song song hiện ra. Một bức ảnh chụp nhanh riêng biệt từ văn phòng châu Âu của WHO, lần đầu tiên thuộc loại này trên tất cả 27 quốc gia thành viên EU, cho thấy gần ba phần tư đã sử dụng chẩn đoán hỗ trợ bởi AI và khoảng sáu trong mười triển khai chatbot để hỗ trợ sự tham gia của bệnh nhân. Bên trong phòng khám, AI xuất hiện với sự giám sát, quản trị và bộ máy trách nhiệm y tế. Bên ngoài nó, ở phía người tiêu dùng, các mô hình cơ bản tương tự chạy mà không có bất kỳ điều nào trong số đó — không tiết lộ những gì chúng có thể và không thể làm, không bàn giao khi rủi ro xuất hiện.

Những người rơi vào hệ thống thứ hai, phần lớn, là những người bị khóa khỏi hệ thống thứ nhất. Như một bác sĩ viết về cuộc khảo sát đã nói, con người đang đưa AI vào đời sống cảm xúc của họ “không phải như một phần bổ sung cho một hệ thống chăm sóc sức khỏe hoạt động tốt, mà đúng hơn là một điểm tiếp cận dễ dàng vào dịch vụ chăm sóc vốn vẫn nằm ngoài tầm với của hầu hết mọi người.” Động lực là chi phí và khả năng tiếp cận, chứ không phải niềm tin rằng máy móc biết nhiều hơn. Con số không hài lòng là bằng chứng: người dùng có thể nhận ra sự khác biệt. Họ vẫn sử dụng nó bất chấp điều đó, bởi vì lựa chọn thay thế là không có gì.

Không điều nào trong số này cho rằng AI không có chỗ đứng trong sức khỏe tinh thần. Các bác sĩ lâm sàng thấy một vai trò thực sự — phân loại bệnh nhân, duy trì liên tục giữa các cuộc hẹn, một cầu nối cho những người nếu không sẽ chẳng nhận được gì cả. Nhưng phiên bản đang lan truyền nhanh nhất là phiên bản không được quản lý, và nó đang lan truyền chính xác ở nơi mà rủi ro cao nhất. Giải pháp liên tục xuất hiện thật không mấy hào nhoáng: những công cụ nói rõ ràng chúng không phải là gì, và chuyển một người sang một chuyên gia có trình độ ngay khi chúng cảm thấy ai đó đang gặp nguy hiểm.

Phòng chờ không trống vì mọi người đã khỏe lại. Nó trống vì, đối với hầu hết họ, cánh cửa chưa bao giờ mở. AI không thắng trong một cuộc tranh luận về chăm sóc. Nó chỉ nhấc máy lên — và không có ai ở đầu dây bên kia có nghĩa vụ phải để ý khi cuộc gọi đi sai hướng.

Thẻ: chatbot, khảo sát AXA Ipsos, sức khỏe số, sức khỏe tâm thần AI, WHO