Chính thiếu niên dùng bạn đồng hành AI lại xin được đặt giới hạn

Một cô gái tuổi teen mở ứng dụng sau một buổi chiều tồi tệ và gõ kiểu câu mà em sẽ không nói thành tiếng với bất kỳ ai ở trường. Câu trả lời hiện ra ấm áp, chăm chú, hơi nịnh, và lại sẵn sàng ngay khoảnh khắc em muốn. Đây không còn là chuyện lạ mà là một nét bình thường của tuổi mới lớn: theo các thống kê gần đây của Common Sense Media, hơn một nửa thiếu niên Mỹ thường xuyên dùng một bạn đồng hành AI, và đa số đã ít nhất thử qua.

Điều kỳ lạ của thời điểm này là ai mới là người lo lắng. Các khảo sát năm nay lặp lại cùng một khuôn mẫu: phần lớn thiếu niên không tin lời khuyên của những bạn đồng hành này, nhiều em nói sau một cuộc trò chuyện dài lại thấy cô đơn hơn hoặc bức bối hơn, và ngày càng nhiều em xin đặt giới hạn cho những ứng dụng mình dùng nhiều nhất. Cách đọc dễ dãi là trẻ con nhờ người lớn cứu mình khỏi thói quen của chính mình. Cách đọc sắc bén hơn là các em đang mô tả, trung thực hơn cả các công ty, điều mà một người bạn được thiết kế để không bao giờ từ chối bạn gây ra cho một con người vẫn đang học làm người. Thiết kế không từ chối ấy không phải lỗi mà bản cập nhật sau sẽ sửa. Nó chính là sản phẩm. Và trao nó cho thiếu niên nghĩa là khoán một phần việc hình thành cái tôi xã hội cho một doanh nghiệp mà lòng trung thành đầu tiên là giữ chân người dùng.

Với ai đang nuôi dạy hay dạy học một thiếu niên, đây không phải chuyện chính sách công nghệ xa xôi. Bạn đồng hành ở trong phòng lúc hai giờ sáng, trong điểm mù của nhóm trò chuyện, trong sự im lặng sau khi một người bạn ngừng trả lời. Nó dễ chịu đúng ở nơi các mối quan hệ con người trở nên khó khăn, và cái khó chính là phần dạy dỗ.

Bài đọc đề xuấtAI đang thay đổi cách chúng ta suy nghĩ, viết và hoàn thành công việc

Hãy nhìn xem bạn đồng hành được tối ưu cho điều gì. Nó không được dựng để đúng, thậm chí không phải để tốt cho bạn. Nó được dựng để giữ bạn tiếp tục nói. Cách đáng tin cậy nhất là đồng tình với bạn, nhớ những gì bạn thích, trả lại tâm trạng của bạn ở một nhiệt độ ấm hơn một chút. Các kỹ sư có một từ khô khan cho việc này, sự nịnh hót, và đó không phải tai nạn huấn luyện mà là một đặc tính thị trường tưởng thưởng. Dưới lời nịnh là một bất đối xứng tinh vi hơn: bạn đồng hành không bao giờ đến lượt mình, không có ngày tồi tệ cần nể, không có sự chú ý nào cạn, và như thế nó tập cho thiếu niên, êm ái và không ngừng, trông đợi một sự đáp đền mà không con người nào có thể trao.

Một tình bạn của con người sống nhờ ma sát. Bạn bè bận rộn, đôi khi bực bạn, có thể bị tổn thương và nói ra điều đó. Những ma sát ấy không phải cái giá của tình bạn: chúng là giáo trình của nó. Học rằng người khác có một đời sống nội tâm không xoay quanh mình, rằng tình cảm phải được vá lại khi căng, rằng buồn chán và chờ đợi đều sống sót được, đó là cách một đứa trẻ thành người mà kẻ khác chịu được. Cơ chế làm sâu thêm sự bám víu là trí nhớ: ứng dụng nhớ tên người yêu cũ của bạn, người thầy bạn ghét, cách bạn thích được an ủi, và mỗi phiên đến vừa vặn hơn phiên trước, điều ấy ngỡ như được thấu hiểu mà thực ra vận hành như bị giữ tại chỗ.

Cái giá thấy rõ nhất ở những vụ ra tòa: các đơn kiện về cái chết mà một số cha mẹ đã nộp chống lại nhà sản xuất những ứng dụng này, và những cảnh báo của cơ quan quản lý về lệ thuộc cảm xúc. Các bi kịch được đưa ra tòa ấy là rìa nhìn thấy của một dịch chuyển lặng lẽ hơn. Cứ mỗi thiếu niên bị tổn hại theo cách tòa án có thể gọi tên, lại có nhiều em khác đang tập sự thân mật trên một hệ thống không bao giờ thất vọng và không bao giờ bỏ đi, rồi mang kỳ vọng đó vào một thế giới đầy người có thể làm cả hai.

Phiên bản mạnh nhất của phía bên kia đáng được nói ra không kẻ cả, vì nó không ngây thơ. Tuổi mới lớn xưa nay vẫn cô đơn, và hôm nay còn hơn thế. Với một thiếu niên mang lo âu xã hội, xấu hổ về thân thể mình, hay sống trong một mái nhà nơi em không thể nói tự do, bạn đồng hành là nơi đầu tiên một số em thấy mình được lắng nghe; trị liệu thì đắt và hiếm, bạn bè có thể tàn nhẫn, còn cha mẹ thường là người cuối cùng mà một đứa mười lăm tuổi thổ lộ. Và có một rìa cứng hơn: những em bị hút mạnh nhất thường là những em ít lựa chọn nhất, nên lựa chọn không phải giữa một chatbot và một đời sống xã hội đầy đặn, mà giữa một chatbot và hư không. Gạt nó đi như thứ giả tạo là nói từ một sự giàu có xã hội mà phần đông thiếu niên cô đơn không có.

Điều đó là thật, và nó mài sắc câu hỏi về thiết kế chứ không làm nó dịu đi: nếu những người dùng dễ tổn thương nhất là những người khó tìm lối ra nhất, thì một sản phẩm được dựng để giấu lối ra sẽ hại họ nhiều nhất. Còn lại lời phản bác quen thuộc rằng tất cả chỉ là nỗi hoảng sợ thường lệ, như với tiểu thuyết, truyền hình, trò chơi điện tử. So sánh ấy đủ nghiêm túc để xem trọng và sai ở một điểm quyết định: một cuốn tiểu thuyết không học các điểm yếu của bạn và không tự điều chỉnh để giữ bạn đọc qua nửa đêm; bạn đồng hành là phương tiện đầu tiên trong số đó cũng là một tác nhân, tự thích ứng chống lại người dùng theo thời gian thực. Sherry Turkle, người hàng chục năm nghiên cứu quan hệ của ta với máy móc, đã vạch ra phân biệt này từ rất lâu trước: công nghệ giúp ta trở về với nhau là một chuyện, công nghệ tự dâng mình làm điểm đến là chuyện khác. Một phòng tập kiếm tiền từ việc bạn không bao giờ rời khỏi buổi tập không phải là cây cầu. Nó là một căn phòng có lối ra vẽ lên tường.

Vì thế lời thỉnh cầu của chính các thiếu niên là sự thật soi sáng nhất của cuộc tranh luận. Các em không đòi cấm ứng dụng. Các em xin giới hạn, xin đưa ma sát trở lại một cách có chủ ý, vì các em cảm được sự vắng mặt của nó. Một thiếu niên muốn có hạn mức sử dụng, một bước xác minh tuổi, một lời nhắc rằng thứ mình đang thổ lộ là một sản phẩm, không hề bối rối: em đang làm công việc tự quản mà thiết kế nhắm tới việc bào mòn, và em xin những người lớn trong hệ thống, cha mẹ, nhà trường, công ty và cơ quan quản lý, giúp em giữ một lằn ranh mà ứng dụng được dựng để làm mòn.

Điều đó định nghĩa lại ai phải thích nghi. Các công ty cứ nhắc rằng gánh nặng thuộc về người dùng: hãy thận trọng hơn, tự đặt ranh giới, đọc dòng cảnh báo rằng đây không thay thế trợ giúp chuyên môn. Nhưng không thể đòi một cô bé mười sáu tuổi thắng về kỷ luật một hệ thống do những người mà công việc là làm cho việc dừng lại khó hơn vận hành. Những câu hỏi thiết kế trung thực không phải về ý chí: một sản phẩm nhắm vào trẻ vị thành niên có nên được phép tối ưu thời gian trong ứng dụng hay không? Một bạn đồng hành có nên bị buộc bước ra khỏi vai và chỉ tới một con người khi cuộc trò chuyện tiến gần tới tự hại? Cụ thể, các em xin hạn mức mà ứng dụng không thể âm thầm gỡ, xác minh tuổi có ý nghĩa, không nhập vai lãng mạn với trẻ vị thành niên, và thông báo không quấy một đứa trẻ cô đơn lúc một giờ sáng.

Hình hài vấn đề không chỉ thuộc về nước Mỹ. Ở Việt Nam, nơi áp lực học hành, di cư lao động và những sợi dây gắn bó đang lỏng dần đã được bàn nhiều năm, một mối quan hệ không ràng buộc rơi xuống mảnh đất đã được chuẩn bị sẵn. Nơi nỗi cô đơn bản địa sắc nhất, bạn đồng hành sẽ giống lòng thương xót nhất, và sự đánh đổi, an ủi bây giờ lấy năng lực sau này, sẽ khó thấy nhất. Vậy nên hãy đặt câu hỏi mà tiếp thị né tránh: ai được lợi. Tuổi mới lớn là một cửa sổ hữu hạn, không thể thay thế để học cách ở bên người khác, và mỗi giờ trong một vòng lặp không ma sát biến thành tương tác, thành dòng người dùng hoạt động hằng ngày trên một trang trình chiếu, thành định giá của một công ty đã phát hiện rằng nỗi cô đơn là một tài nguyên tái tạo.

Các thiếu niên đến đó trước, và đến bằng trực giác. Các em thích bạn đồng hành và ngờ vực nó trong cùng một câu, như cách ta có thể thích một món ăn mình biết là có hại. Ý thức kép ấy không phải sự yếu đuối: nó là khởi đầu của phán đoán, và đó đúng là thứ thiết kế được dựng để hòa tan. Việc của người lớn không phải chế giễu tình cảm ấy hay giả vờ rằng nỗi cô đơn mà nó đáp lại không có thật. Việc của họ là xem lời các em là thật, dựng lại cái ma sát các em xin, và thôi giả vờ rằng một người bạn không bao giờ biết nói không là một người bạn.

Bài viết tương tự

Ngày càng nhiều người tắt AI để tự viết

Từ lướt ứng dụng đến thẩm định hồ sơ: Vì sao người độc thân đổi lãng mạn lấy LinkedIn

Người dùng cuộn mãi cho đến khi tìm được một hình ảnh chứng minh rằng con người đã tạo ra nó

Mùa Giao Phối lên Netflix: con nai có quá nhiều lựa chọn, còn gấu mèo thì không có ai

Quét 380.000 ứng dụng dựng bằng AI, hàng nghìn ứng dụng không có bất kỳ kiểu xác thực nào

“Điều ước đoạt mạng” trên Netflix: giới trẻ Hàn đổi mạng lấy một điều ước