Công nghệ

Anthropic kích hoạt quy tắc an toàn vì AI đang tự đẩy nhanh nghiên cứu

Adrian Kessler
Thêm chúng tôi trên Google

Anthropic chính thức kết luận rằng trí tuệ nhân tạo hiện đang thúc đẩy nghiên cứu của chính mình đủ nhanh để vượt qua ngưỡng do công ty đặt ra. Trong bản cáo bạch IPO sửa đổi, nhà phát triển Claude cho biết đã đạt ngưỡng năng lực nghiên cứu và phát triển AI trong Responsible Scaling Policy, bộ quy tắc nội bộ quyết định mức độ bảo mật và giám sát cần áp dụng cho các mô hình. Chính sách này mô tả ngưỡng đó là thời điểm bắt đầu tự cải thiện đệ quy — khi các hệ thống AI bắt đầu đẩy nhanh quá trình phát triển những AI tốt hơn.

Điều khiến kết luận này khác thường nằm ở cơ sở mà nó không dựa vào. Anthropic viết rằng công ty đưa ra kết luận “dựa trên những gì chúng tôi kỳ vọng ở các mô hình trong tương lai và tốc độ tiến bộ tổng thể, chứ không phải những gì chúng tôi quan sát được ở các mô hình hiện tại”. Chưa có mô hình Claude nào đang được bán cho thấy đã vượt qua ngưỡng này. Công ty hành động dựa trên dự báo của chính mình và thông báo điều đó với các nhà đầu tư trước khi cổ phiếu bắt đầu giao dịch.

Bằng chứng được công ty viện dẫn là dữ liệu nội bộ. Bản cáo bạch cho biết trong một tháng gần đây, Claude đã viết hơn 90% phần đóng góp vào kho mã nguồn của Anthropic, còn lượng mã mỗi kỹ sư tạo ra mỗi ngày tăng hơn 45 lần. Anthropic nói thêm rằng các mô hình của họ “viết một phần ngày càng lớn trong mã nguồn và ngày càng đảm nhiệm nhiều công việc nghiên cứu, trong đó có cả nghiên cứu về an toàn”.

Chính sách quy định hai cách để vượt ngưỡng này. Thứ nhất là một mô hình có thể thay thế hoàn toàn đội ngũ nhà khoa học nghiên cứu và kỹ sư của Anthropic với chi phí cạnh tranh. Thứ hai là “sự tăng tốc mạnh mẽ” của tiến bộ AI, được chính sách định nghĩa là gói gọn khoảng hai năm tiến bộ vào một năm, nhiều khả năng nhờ nghiên cứu tự động hóa. Vì phép thử thứ hai được kích hoạt nếu công ty có thể “quan sát hoặc dự đoán” bước nhảy vọt như vậy, chỉ cần có dự báo cũng đủ để chạm ngưỡng.

Vượt qua ngưỡng này đồng nghĩa Anthropic phải áp dụng thêm nhiều biện pháp bảo vệ nghiêm ngặt hơn. Chính sách yêu cầu triển khai các dự án bảo mật “đột phá” nhằm đối phó với những kẻ tấn công có nguồn lực mạnh nhất thế giới, đồng thời thiết lập cơ chế “giám sát mọi thứ”: mọi hoạt động then chốt trong quá trình phát triển AI đều phải được ghi lại và AI phân tích để phát hiện mối đe dọa, kể cả từ người nội bộ, dù là con người hay máy móc. Đội ngũ kiểm thử tấn công nội bộ cũng phải tìm ra nhiều cách vượt rào an toàn hơn tổng số mà tất cả nhà nghiên cứu bên ngoài tham gia các chương trình săn lỗi của công ty tìm được. Bản cáo bạch cho biết Anthropic đã trì hoãn hơn một tháng việc tiền huấn luyện một mô hình tiên phong mới để tăng cường bảo vệ trọng số mô hình khỏi bị đánh cắp; công ty cũng đang cân nhắc quy định yêu cầu con người phê duyệt một số quyết định nghiên cứu khi Claude đảm nhiệm ngày càng nhiều phần việc này.

Với những người dùng Claude trong công việc hoặc Claude Code, tác động thực tế có thể là các đợt phát hành chậm hơn. Thư của các nhà sáng lập được công bố cùng tài liệu IPO cho biết đôi khi Anthropic có thể chọn “tiến chậm hơn mức chúng tôi có thể để làm cho các hệ thống an toàn hơn, ngay cả khi điều đó khiến chúng tôi bất lợi trong cạnh tranh”. Hiện tại, các ứng dụng không có gì thay đổi.

Kết luận này là một đánh giá nội bộ theo chính sách tự nguyện do Anthropic soạn thảo và có thể sửa đổi; chưa có kiểm toán viên độc lập nào xác nhận. Chính sách thừa nhận rằng ngưỡng này “đã tỏ ra khó đưa vào thực tiễn”, còn hồ sơ công bố cũng thừa nhận phần lớn bằng chứng đến từ các chỉ báo có độ trễ, vì vậy có thể chỉ nhận ra một đợt tăng tốc thực sự sau khi nó đã xảy ra. Những nội dung công bố rủi ro trong bản cáo bạch cũng được soạn nhằm bảo vệ công ty trước các vụ kiện có thể phát sinh trong tương lai; theo Gizmodo đưa tin, một phiên bản trước đó của chính tài liệu này chỉ nói Anthropic “có thể sắp đạt” các tiêu chí.

Anthropic cho biết vẫn đang đánh giá dữ liệu nền và sẽ công bố thêm các báo cáo về ý nghĩa của việc đạt ngưỡng này. Cổ phiếu dự kiến được định giá vào ngày 18 tháng 11 và bắt đầu giao dịch trên Nasdaq với mã ANT vào ngày 19 tháng 11, trong khoảng giá đề xuất từ 70 đến 78 USD mỗi cổ phiếu. Hiện tại, bằng chứng duy nhất cho thấy ngưỡng đã bị vượt qua vẫn là dự báo của chính Anthropic.

Thẻ: , , , , ,

Thêm chúng tôi trên Google

Thảo luận

Có 0 bình luận.