Kimi K3 vượt GPT-5.6 Sol về AI tác nhân và ra mắt mã nguồn mở ngày 27/7

Mô hình vừa vượt qua sản phẩm chủ lực của OpenAI trên benchmark quan trọng nhất đối với tác vụ lập trình dài hạn và công việc tri thức hiện đã có sẵn qua API. Nó không đến từ OpenAI, Google hay Anthropic. Kimi K3 là bản phát hành mới nhất từ Moonshot AI, một startup Bắc Kinh được biết đến nhiều nhất qua chatbot Kimi, đồng thời là mô hình ngôn ngữ mã nguồn mở lớn nhất từng được tung ra: 2.800 tỷ tham số tổng cộng trong kiến trúc thưa (sparse architecture), giúp giảm chi phí bằng cách chỉ kích hoạt một phần nhỏ trong số đó cho mỗi yêu cầu.

Trên AA-Briefcase — bài đánh giá tác nhân của Artificial Analysis được thiết kế để mô phỏng công việc tri thức thực tế thay vì các bài toán trong sách giáo khoa — Kimi K3 đạt 1.527 điểm, chỉ xếp sau Claude Fable 5 Max với 1.587 điểm và vượt qua GPT-5.6 Sol Max ở mức 1.495. Trên benchmark rộng hơn GDPval-AA, mô hình đứng thứ ba với 1.687 điểm, sau Fable 5 Max (1.815) và GPT-5.6 Sol Max (1.747,8). Khoảng cách về hiệu suất giữa vị trí thứ nhất và thứ hai trên benchmark tác nhân thậm chí còn hẹp hơn khoảng cách giữa vị trí thứ hai và thứ năm.

Chênh lệch về giá khó có thể bỏ qua hơn cả thứ hạng trên benchmark. Kimi K3 tính phí 3 USD trên một triệu token đầu vào chưa lưu bộ nhớ đệm (uncached) và 15 USD trên một triệu token đầu ra. Claude Opus 4.8 tính 5 USD đầu vào và 25 USD đầu ra cho mỗi triệu token. Với những đội nhóm vận hành quy trình tác nhân khối lượng lớn, Moonshot báo cáo tỷ lệ trúng bộ nhớ đệm (cache hit rate) trên 90% đối với tải công việc lập trình, đưa chi phí đầu vào hiệu quả xuống còn 0,30 USD mỗi triệu token — một con số thay đổi hoàn toàn bức tranh kinh tế khi triển khai AI tầm frontier ở quy mô lớn.

Hai cải tiến kiến trúc làm nền tảng cho mô hình. Kimi Delta Attention là cơ chế chú ý tuyến tính lai (hybrid linear attention mechanism) mà công ty cho biết cho phép giải mã nhanh hơn 6,3 lần trong các ngữ cảnh hàng triệu token so với cơ chế chú ý tiêu chuẩn. Attention Residuals được mô tả là một giải pháp thay thế dạng plug-and-play cho các kết nối dư (residual connections) tiêu chuẩn, mang lại cải thiện hiệu suất nhất quán khi mô hình mở rộng quy mô. Cửa sổ ngữ cảnh 1 triệu token — đủ chứa khoảng mười cuốn tiểu thuyết cùng một lúc — đang hoạt động thực tế, không chỉ là thông số lý thuyết.

Có một sự khác biệt giữa ‘có sẵn hôm nay’ và ‘mã nguồn mở’ cần được làm rõ ở đây. Kimi K3 có thể truy cập ngay qua API và ứng dụng Kimi, nghĩa là các yêu cầu sẽ đi qua máy chủ của Moonshot. Các trọng số thực tế của mô hình — các tham số đã được huấn luyện cho phép bất kỳ ai triển khai nó trên hạ tầng riêng của họ — vẫn chưa được công bố. Moonshot có kế hoạch phát hành chúng vào ngày 27 tháng 7 theo giấy phép Modified MIT, cùng các điều khoản đã được áp dụng cho mô hình K2 trước đó. Đối với hầu hết các nhà phát triển, API là thứ họ cần; đối với các tổ chức có yêu cầu về quyền riêng tư dữ liệu hoặc tuân thủ quy định, ngày phát hành trọng số mới là mốc thời gian quan trọng.

Hỗ trợ đa phương thức gốc bao gồm đầu vào văn bản, hình ảnh và video trong cùng một lệnh gọi API. Tổng số tham số 2.800 tỷ của mô hình đề cập đến toàn bộ bộ tham số MoE thưa; số lượng tham số hoạt động trên mỗi lượt truyền tới (forward pass) thấp hơn đáng kể, đó là cách Moonshot giữ chi phí suy luận ở mức thấp. Việc chạy toàn bộ mô hình trên máy cục bộ đòi hỏi phần cứng vượt xa một máy trạm tiêu dùng thông thường. Điều mà các trọng số mở cho phép là triển khai trên hạ tầng cấp doanh nghiệp mà không cần định tuyến dữ liệu qua một API thuộc sở hữu Trung Quốc.

Việc phát hành trọng số vào ngày 27 tháng 7 sẽ quyết định lợi thế benchmark tồn tại được bao nhiêu khi triển khai thực tế. Khi Moonshot phát hành K2 theo các điều khoản mở tương tự, tốc độ tiếp nhận từ các nhà phát triển nhanh hơn dự kiến — một phần vì sự kết hợp giữa hiệu suất gần tầm frontier và giấy phép kiểu MIT đã loại bỏ các rào cản pháp lý cho những đội nhóm cần cả hai. K3 là một canh bạc lớn hơn dựa trên cùng một chiến lược.

Thẻ: GPT-5.6, mô hình AI, AI cục bộ, AI mã nguồn mở, Kimi K3, Moonshot AI