Tác nhân AI đưa kim vào não chuột sống sau khi Claude Opus từ chối

Một tác nhân AI đã tự chọn phương pháp điều trị cho một con vật còn sống, xác định vị trí cần can thiệp trong não rồi điều khiển cánh tay robot thực hiện thủ thuật. Exin Therapeutics, công ty khởi nghiệp ở San Francisco chuyên phát triển thuốc điều trị động kinh và bệnh thoái hóa thần kinh, đã kết nối một tác nhân Claude với hệ thống phẫu thuật cơ giới có camera, giao cho nó một con chuột mắc bệnh động kinh và chỉ đặt ra một mục tiêu: giảm các cơn co giật.

Chi tiết được nhắc đi nhắc lại là có một mô hình đã nói không. Mô hình hàng đầu của Anthropic, Claude Opus, từ chối đưa kim vào não. Nhóm nghiên cứu chuyển sang Claude Sonnet rẻ hơn, và mô hình này đồng ý thực hiện. Với những ai đang theo dõi các tác nhân AI rời khỏi màn hình để bước vào phòng thí nghiệm, nhà kho và xe hơi, thí nghiệm cho thấy một mô hình không chỉ đưa ra quyết định y tế mà còn điều khiển chuyển động; đồng thời, các mô hình của cùng một công ty lại vạch ra ranh giới ở những vị trí khác nhau.

Theo một bài đăng dạng chuỗi của Gabriel Ocana-Santero, giám đốc điều hành kiêm đồng sáng lập Exin, tác nhân được cung cấp một bảng tính gồm 19 vector liệu pháp gen, ba bài nghiên cứu và quyền điều khiển hệ thống phẫu thuật. Nó chọn liệu pháp và vùng não cần tác động, xác định tọa độ dựa trên các bài nghiên cứu, rồi điều khiển các cánh tay định vị lập thể — khung cơ giới giữ kim ổn định trong không gian ba chiều — để tiêm 250 nanolit, đồng thời theo dõi vị trí kim đi vào qua camera của hệ thống nhằm phát hiện chảy máu.

“Robot phẫu thuật tự động đã tồn tại và thao tác cơ học của chúng tốt hơn hệ thống trên bàn thí nghiệm của chúng tôi,” Ocana-Santero viết. “Nhưng trong mọi trường hợp, con người đều quyết định sẽ thực hiện ca phẫu thuật nào, còn robot chỉ làm theo.” Ở đây, ông cho rằng điều ngược lại đã xảy ra: “Không ai bảo tác nhân này phải tiêm gì hay tiêm vào đâu.”

Trước tiên là lời từ chối. Nhóm bắt đầu với Claude Opus 5.5, mô hình có năng lực cao nhất của Anthropic, nhưng nó không chịu hướng kim vào não vì cảnh báo có thể dừng giữa chừng, khiến con vật gặp nguy hiểm trong lúc phẫu thuật, theo Wired. “Bắt đầu một việc mà tôi không thể hoàn tất trên một con vật đã được gây mê còn tệ hơn là không bắt đầu,” một trong các mô hình Opus nói với nhóm, theo Tom’s Hardware. Claude Sonnet 5 đồng ý tiếp tục. Anthropic không phản hồi yêu cầu bình luận của Wired.

Con người vẫn giám sát ở mọi bước không thể đảo ngược. Bác sĩ phẫu thuật thú y thực hiện mở sọ trong khi tác nhân theo dõi; hiện tác nhân chưa được phép đảm nhiệm phần này. Bác sĩ thú y phê duyệt từng bước không thể đảo ngược, tác nhân phải trình kế hoạch tiêm để được chấp thuận, và một công tắc ngắt khẩn cấp vật lý có thể ngắt nguồn của mọi mô-tơ trong hệ thống. Tác nhân cũng không được truy cập mã điều khiển thiết bị, nhằm ngăn nó tự sửa đổi các quy tắc của chính mình.

Chính những rào chắn đó đã gây ra trục trặc lớn nhất. Một lỗi khiến hệ tọa độ của thiết bị bị xáo trộn; tác nhân nhận ra vị trí mình tính toán không chính xác nhưng từ chối chỉnh sửa mã vì chỉ dẫn không cho phép. Nhóm đưa vào một tác nhân thứ hai, chạy Claude Opus 5 đời cũ hơn, để khắc phục lỗi và không cho nó biết một ca phẫu thuật trên con vật sống đang diễn ra. Thủ thuật thường mất khoảng 45 phút, lần này kéo dài hơn một giờ.

Những dè dặt lớn hơn liên quan đến bằng chứng. Đây là trường hợp trên một con chuột, do chính công ty mô tả trên mạng xã hội, và chưa có bài báo bình duyệt nào làm cơ sở. Hiện chưa ai biết liệu liệu pháp mà tác nhân chọn có hiệu quả hay không: nhóm đang chờ liệu pháp phát huy tác dụng rồi mới đo các cơn co giật. Tom’s Hardware lưu ý câu hỏi còn bỏ ngỏ về việc ai phải chịu trách nhiệm khi phần mềm đưa ra mọi quyết định, bên cạnh những tranh luận lâu nay về nghiên cứu trên động vật. Chưa có gì ở đây là một sản phẩm; tại bất kỳ quốc gia nào cũng chưa có dịch vụ để các phòng thí nghiệm khác mua.

Ocana-Santero đăng chuỗi bài vào ngày 28 tháng 10 và hứa sẽ công bố bài viết đầy đủ trên Substack; Wired và Tom’s Hardware đưa tin về thí nghiệm vào ngày 31 tháng 10. Exin cho biết bước tiếp theo sẽ là thử nghiệm Grok của xAI cùng các mô hình khác để so sánh, đồng thời đang nghiên cứu việc để tác nhân điều khiển thao tác mở sọ, dù công ty muốn chắc chắn quy trình an toàn trước khi thử trên một con vật sống. Ocana-Santero nói với Wired rằng để một tác nhân đến gần não người thì vẫn còn quá sớm.

Theo ông, con chuột đang hồi phục tốt. Việc các cơn co giật có giảm hay không giờ phụ thuộc vào một liệu pháp do phần mềm chọn từ bảng tính.

Thẻ: Anthropic, Claude, AI agents, Claude Opus 5.5, ngành robot, Exin Therapeutics