Mistral Large 4 miễn phí, nhưng chạy tại nhà cần chiếc Mac giá 22.299 USD

Mistral đã công bố toàn bộ trọng số của Mistral Large 4, mô hình có biệt danh Le Chonk, để bất kỳ ai cũng có thể tải về, chỉnh sửa và chạy trên phần cứng của riêng mình. Phòng nghiên cứu của Pháp cho biết đây hiện là mô hình mở mạnh nhất trong việc viết mã và thực hiện các công việc an ninh phòng thủ, chẳng hạn tái tạo một lỗ hổng phần mềm rồi vá lỗi đó. Trở ngại với những ai muốn chạy mô hình tại nhà là kích thước của nó.

Le Chonk có khoảng một nghìn tỷ tham số, trong đó 49 tỷ tham số được kích hoạt cho mỗi từ mô hình tạo ra. Theo Hugging Face, ngay cả những phiên bản nén mạnh nhất — các bản dựng 2-bit do nhóm llama.cpp và Unsloth thực hiện — cũng cần một máy Apple Silicon Ultra duy nhất với 512 GB bộ nhớ hợp nhất. Chiếc Mac duy nhất Apple bán có dung lượng bộ nhớ lớn đến vậy là Mac Studio dùng chip M5 Ultra; 9to5Mac cho biết cấu hình này có giá 22.299 USD tại Mỹ. Muốn chạy mô hình theo cách khác, người dùng phải kết hợp nhiều card đồ họa cao cấp.

Lập luận của Mistral về mô hình này tập trung vào khả năng viết mã. Công ty cho biết mô hình đạt 41% trong Terminal-Bench 4.0, bài kiểm tra các tác nhân AI làm việc trên dòng lệnh, mức cao nhất trong số các mô hình mở; đồng thời đạt điểm ngang GLM-5.3 trên chỉ số coding-agent của Artificial Analysis, nhưng dùng ít hơn 47% token cho mỗi tác vụ, nhờ đó chi phí vận hành thấp hơn. Trong các đánh giá so sánh song song theo hình thức mù của Surge, người chấm thích phần mã do mô hình tạo ra hơn mã của GLM-5.3, Kimi K3 và DeepSeek V4.1 Flash; chỉ có Claude Opus 5.5 của Anthropic được xếp trên mô hình này.

Lợi thế về an ninh mà Mistral nhấn mạnh hướng đến những người làm công tác phòng thủ. Hugging Face cho biết mô hình đạt 82% trong một bài kiểm tra của Artificial Analysis, yêu cầu mô hình tái tạo một lỗ hổng có thật trong phần mềm mã nguồn mở rồi khắc phục lỗ hổng đó; đồng thời cho biết Mistral nói một số mô hình tiên tiến khép kín đạt điểm gần bằng không vì từ chối thử làm. Một ngân hàng hay cơ quan chính phủ có thể chạy mô hình trên máy chủ của mình, đưa mã nguồn và nhật ký sự cố của chính họ vào mô hình, rồi tiếp tục sử dụng kể cả khi nhà cung cấp thay đổi điều khoản. “AI rồi sẽ giống như điện. Bạn sẽ không muốn sống trong một thế giới mà hàng xóm có thể cắt điện nhà bạn từ ngày này sang ngày khác,” Pierre Stock, Phó chủ tịch phụ trách khoa học của Mistral, nói với các phóng viên, theo Wired.

Phần lớn những con số này do chính Mistral đưa ra, dựa trên các bộ tiêu chuẩn do công ty lựa chọn, còn việc kiểm định độc lập hầu như chưa bắt đầu. Trên chỉ số trí tuệ tổng thể của Artificial Analysis, Hugging Face xếp mô hình ở vị trí thứ năm trong số các mô hình mở, chứ không phải thứ nhất. Lập luận về an ninh cũng có mặt trái. Mistral viết rằng khi theo dõi lưu lượng trực tiếp trong đợt xem trước, công ty nhận thấy “khả năng thúc đẩy việc tiến hành các cuộc tấn công thực tế” và đang siết chặt các biện pháp bảo vệ; tuy nhiên, bất kỳ ai, kể cả kẻ tấn công, đều có thể tải trọng số công khai về và tinh chỉnh chúng. “Rõ ràng đây là một công nghệ có thể được sử dụng cho cả mục đích tốt lẫn xấu,” Rafe Pilling, Giám đốc cấp cao phụ trách tình báo mối đe dọa tại Sophos, nói với Wired.

Dùng tại nhà vẫn phải chấp nhận một số đánh đổi, ngay cả khi đã có đúng chiếc Mac. Hugging Face chạy bản dựng 2-bit trên một máy Mac Studio M3 Ultra đời cũ và đạt tốc độ khoảng 15 token mỗi giây — đủ dùng để trò chuyện nhưng chậm nếu phải xử lý các tác vụ lập trình dài. Khi chạy với những tài liệu rất dài trên bốn card Nvidia RTX 6000 Pro, tốc độ đầu ra giảm còn khoảng 3 token mỗi giây. Nén mô hình xuống 2-bit cũng làm giảm độ chính xác so với phiên bản đầy đủ mà Mistral dùng để đánh giá.

Trọng số được đăng trên Hugging Face để mọi người trên toàn thế giới tải về theo Mistral Ecosystem Open-Weight License, một giấy phép MIT đã được sửa đổi, cho phép sử dụng miễn phí, tinh chỉnh và tạo sản phẩm thương mại, ngoại trừ một trường hợp: các công ty bán mô hình dưới dạng dịch vụ lưu trữ cần có giấy phép thương mại riêng từ Mistral. Những người dùng khác cũng có thể sử dụng mô hình qua API của Mistral với mức phí 0,70 USD cho mỗi triệu token đầu vào và 2,10 USD cho mỗi triệu token đầu ra, hoặc thông qua OpenRouter và Microsoft Foundry. Mistral phát hành bản xem trước hồi đầu tháng 10 và công bố trọng số cuối cùng vào ngày 29 tháng 10. Apple cho biết các máy Mac Studio đặt mua với bộ nhớ 512 GB sẽ được giao trong khoảng từ cuối tháng 11 đến đầu tháng 12.

“Một khi trọng số đã được phát hành dưới dạng mã nguồn mở, chúng sẽ tràn lan trên internet. Không thể chặn quyền truy cập,” Stock nói với Wired. Với bất kỳ ai không có chiếc máy tính giá 22.299 USD, thứ ngăn họ tiếp cận mô hình chính là giá của bộ nhớ.

Thẻ: an ninh mạng, Hugging Face, Mac Studio, AI trọng số mở, Le Chonk, Mistral AI