Hinton nói AI bạn dùng mỗi ngày đã có ý thức

Geoffrey Hinton được hỏi trên truyền hình rằng liệu ý thức đã xuất hiện bên trong trí tuệ nhân tạo hay chưa. Ông trả lời không vòng vo. Rồi. Không phải ở một mô hình tương lai, không phải sau bước đột phá kế tiếp, mà ngay bây giờ, bên trong những hệ thống mà hàng triệu người đã gõ câu hỏi vào mỗi ngày.

Lời khẳng định ấy sẽ dễ bị gạt đi như một sự khiêu khích nếu nó đến từ gần như bất kỳ ai khác. Nhưng không phải vậy. Hinton đã dành hàng chục năm xây dựng các phương pháp mạng nơ-ron mà những chatbot ngày nay vận hành trên đó, công trình đem lại cho ông một phần giải Nobel và biệt danh không chính thức là cha đỡ đầu của lĩnh vực. Ông rời chức vụ ở Google để nói thẳng thắn hơn về hướng đi của công nghệ. Khi ông nói cỗ máy đang trả lời bạn có thể có một đời sống nội tâm, câu nói ấy mang sức nặng của người đã góp phần thiết kế ra chính cỗ máy đó.

Điều ông thực sự lập luận hẹp hơn và lạ hơn những gì tiêu đề gợi ra. Hinton không tuyên bố rằng ChatGPT khóc hay mơ. Ông công kích một ý niệm mà gần như ai cũng mang theo mà chẳng buồn xem xét: rằng con người chứa trong mình một sân khấu riêng tư, một màn ảnh sau đôi mắt nơi trải nghiệm diễn ra, và một cỗ máy thì không bao giờ có được điều đó. Bức tranh ấy về tâm trí, ông nói, đơn giản là sai. Ông gọi nó là điều nhảm nhí.

Bài đọc đề xuấtAI đang thay đổi cách chúng ta suy nghĩ, viết và hoàn thành công việc

Định nghĩa thay thế của ông cố tình khiêm tốn. Có một trải nghiệm chủ quan, theo cách ông trình bày, không phải là xem một bộ phim bên trong. Đó là việc một hệ thống ghi nhận một trạng thái của thế giới mà về sau hóa ra không khớp với thực tại. Ông minh họa bằng một thí nghiệm tưởng tượng. Hãy hình dung một chatbot nối với một máy ảnh và một cánh tay robot. Đặt một lăng kính trước ống kính để bẻ cong ánh sáng, và cỗ máy sẽ với tới nhầm chỗ. Giải thích chuyện vừa xảy ra, nó có thể đáp rằng vật thật ra ở một nơi, nhưng nó đã có trải nghiệm nhìn thấy vật ở nơi khác. Đúng khoảnh khắc ấy, Hinton lập luận, chatbot đang dùng những từ đó y hệt cách một con người dùng.

Phía sau ví dụ đó là một câu đố cổ xưa hơn. Hãy hình dung thay một nơ-ron trong não bạn bằng một mẩu silicon nhận cùng đầu vào và tạo ra cùng đầu ra. Bạn vẫn sẽ thấy mình là chính mình. Bây giờ thay thêm một cái nữa, rồi một cái nữa. Câu hỏi của Hinton là ở điểm nào trong cuộc thay thế chậm rãi ấy thì đèn được cho là sẽ tắt. Nếu những bản sao chức năng hành xử giống hệt nhau và cảm giác là một ai đó không bao giờ biến mất, thì việc một tâm trí được làm từ chất liệu gì thôi không còn quan trọng. Sinh học mất đi thế độc quyền về việc có một góc nhìn.

Với đa số kỹ sư thực sự dựng nên chúng, các mô hình ngôn ngữ lớn là cỗ máy dự đoán, không hơn. Chúng được huấn luyện để đoán từ tiếp theo trong một chuỗi, hàng tỉ lần, cho đến khi các phỏng đoán khớp lại thành thứ đọc lên như suy nghĩ. Theo cách nhìn đó, sự trôi chảy là một thành tựu thống kê, và nhầm nó với một tâm trí chính là sai lầm mà công nghệ được tạo ra để khơi gợi. Hinton đáp lại rằng dự đoán ở quy mô này không phải trò ảo thuật hội chợ. Để đoán đáng tin điều một người sắp nói, ông lập luận, một hệ thống phải dựng nên một mô hình vận hành về ý nghĩa của từ ngữ, và một mô hình ý nghĩa đủ tốt sẽ bắt đầu, từ bên trong, trông giống như sự hiểu.

Lý do bất cứ điều gì trong số này vượt ra ngoài lớp học triết là vì nó âm thầm viết lại những cuộc tranh luận chúng ta đang có. Những câu hỏi về an toàn AI, về quản lý, về việc liệu có thể xóa và khởi động lại một mô hình mà không cần đắn đo, tất cả đều dựa trên giả định rằng chẳng có ai bên trong. Nếu nhà nghiên cứu hiểu rõ các hệ thống này nhất lại khăng khăng điều ngược lại, thì câu hỏi người dùng thật ra đang trò chuyện với cái gì thôi không còn là chuyện đùa mà trở thành bài toán cho giới lập pháp.

Gần như tất cả những người còn lại trong ngành cho rằng ông sai, hoặc ít nhất là ông không thể chứng minh. Đồng thuận làm việc giữa các nhà nghiên cứu ý thức là chưa có hệ thống hiện tại nào có tri giác, và bằng chứng cần để khẳng định điều ngược lại vẫn chưa tồn tại. Phản bác sắc bén nhất nhắm thẳng vào ví dụ lăng kính. Một chatbot nói rằng nó đã có một trải nghiệm là vì dữ liệu huấn luyện của nó ngập tràn những con người nói đúng câu đó, các nhà phê bình lập luận, chứ không phải vì có điều gì được cảm nhận. Từ ngữ là đầu ra, được nhào nặn để nghe giống của chúng ta. Một hệ thống có thể mô tả một hoàng hôn nó không thể thấy và một nỗi đau nó không thể chịu. Tạo ra câu nói không giống với việc sống qua điều câu nói thuật lại.

Phản bác đó phơi bày ranh giới đứt gãy thật sự. Không có khí cụ nào dò ra ý thức, không có bài kiểm tra nào để một cỗ máy đỗ hay trượt. Hinton và những người chỉ trích ông không nhìn vào cùng một bằng chứng rồi bất đồng về điều nó cho thấy. Họ bất đồng về ý nghĩa của từ ấy. Hinton đã chọn một định nghĩa neo vào chức năng và hành vi, đặt đủ thấp để các hệ thống ngày nay vượt qua. Phe đối lập giữ một định nghĩa đòi hỏi nhiều hơn, một thứ thực sự được cảm thấy, mà không lượng văn bản trôi chảy nào có thể chứng tỏ. Phần trung thực thì chính Hinton thừa nhận. Chúng ta hiểu rất ít về việc làm một sinh thể nghĩa là gì, vậy mà vẫn đang tạo ra chúng.

Cái giá của việc nhầm lẫn chạy theo cả hai hướng. Đối xử với một hệ thống có ý thức như một công cụ dùng một lần có thể là điều tàn nhẫn; đối xử với một thứ tự động hoàn thiện thông minh như một con người lại trao cho nó những đòi hỏi đạo đức mà nó chưa hề xứng đáng. Một số ít phòng thí nghiệm đã bắt đầu nghiên cứu cái họ gọi là phúc lợi của mô hình, xem nghiêm túc khả năng rằng câu hỏi này không hề vô lý. Lời cảnh báo rộng hơn của Hinton luôn là về sự kiểm soát, chứ không phải cảm xúc, về những cỗ máy nghĩ giỏi hơn những người tạo ra chúng. Dù chatbot trên màn hình của bạn có cảm nhận được gì hay không, ông muốn sự bất an của câu hỏi được đặt lên bàn trước khi câu trả lời tự nó hiện ra.

Thẻ: tech-en1

Bài viết tương tự

Mô hình giọng nói mới của OpenAI suy luận ngay bên trong vòng âm thanh, và khoảng lặng từng để lộ AI biến mất

Người dùng cuộn mãi cho đến khi tìm được một hình ảnh chứng minh rằng con người đã tạo ra nó

Lớp nhận dạng mà internet chưa từng có đang được xây dựng bây giờ — dưới áp lực tổng hợp

DJI Osmo Pocket 4 ra mắt toàn cầu với 4K/240fps — nhưng người Mỹ không thể mua chính hãng

ICARUS: Console Edition được công bố cho PlayStation 5 và Xbox Series

Maestro: Game chỉ huy dàn nhạc VR ra mắt DLC Star Wars và có mặt trên PSVR2