AI

Zuckerberg ra mắt Muse Spark Open cùng Apple — cấu hình hai Mac Studio vẫn chưa thể mua

Adrian Kessler
Thêm chúng tôi trên Google

Mark Zuckerberg giới thiệu mô hình trọng số mở mới của Meta trên X chỉ bằng một câu: “Muse Spark Open — phát hành trọng số hôm nay — chạy rất tốt trên Mac Studio mới nhờ hợp tác với @johnternus và Apple,” CEO Meta viết. CEO Apple John Ternus công khai hồi đáp, và hai công ty vốn thường xem nhau là đối thủ đã dành ngày ra mắt để khen ngợi thành quả của nhau.

Bộ trọng số là có thật và ai cũng có thể tải xuống. Nhưng chiếc máy tính để bàn trong lời giới thiệu lại là chuyện khác. Cấu hình do chính Meta đề xuất gồm hai chiếc Mac Studio đắt đỏ nhất của Apple, mỗi máy đều dùng tùy chọn bộ nhớ lớn nhất mà Apple cung cấp — và trên cửa hàng trực tuyến tại Mỹ, tùy chọn đó vẫn được ghi là sắp ra mắt. Mô hình đã được phát hành, nhưng hiện chưa thể đặt mua chính xác cấu hình máy mà Meta mô tả.

Meta thực sự đã phát hành những gì

Muse Spark Open là phiên bản trọng số mở của Muse Spark, mô hình đứng sau các sản phẩm Muse được Meta cung cấp qua dịch vụ trực tuyến. Meta Superintelligence Labs công bố mô hình vào ngày 15 tháng 10. Đây là mô hình hỗn hợp chuyên gia, có khoảng 816 tỷ tham số, trong đó khoảng 42 tỷ tham gia xử lý một token bất kỳ, cùng cửa sổ ngữ cảnh lên tới một triệu token. Mô hình có thể đọc văn bản, hình ảnh, âm thanh và video, rồi trả lời bằng văn bản. Meta huấn luyện mô hình cho các tác vụ lập trình mang tính tác nhân và gọi đây là “mô hình trọng số mở của Mỹ có năng lực cao nhất từ trước đến nay” — câu nhận định được The Verge trích dẫn và Hugging Face nhắc lại trong bài viết kỹ thuật.

Đây cũng là một bước chuyển hướng. Kể từ tháng 4, Meta đã đưa các mô hình chủ lực vào diện đóng, còn Muse Glimmer ra mắt hồi tháng 8 — mô hình 30 tỷ tham số theo giấy phép Apache 2.0 — là phiên bản nhỏ gọn trong dòng sản phẩm, có thể chạy trên một máy. Spark Open là mô hình kích thước đầy đủ. Giấy phép của nó ngắn gọn nhưng không hoàn toàn mở: theo cách Digital Applied diễn giải Muse Model License, mọi sản phẩm được xây dựng dựa trên mô hình đều phải hiển thị dòng chữ “Built with Muse Spark Open”; các công ty cung cấp dịch vụ suy luận có doanh thu trên 20 triệu USD muốn bán mô hình dưới dạng dịch vụ cần có thỏa thuận riêng với Meta.

Nhìn kỹ tuyên bố về cấu hình hai máy Mac

Bài đăng ra mắt của Meta mô tả cách chạy checkpoint NVFP4 4-bit, dung lượng khoảng 530GB, thông qua framework MLX của Apple trên hai máy Mac Studio M5 Ultra, mỗi máy có 512GB bộ nhớ hợp nhất; hoặc trên bốn máy, mỗi máy 256GB, kết nối với nhau qua Thunderbolt 5 bằng RDMA. Theo Technology.org, MLX chia mỗi lớp mô hình cho các máy, để mỗi máy lưu một phần trọng số và thực hiện một phần phép tính. Kiến trúc hỗn hợp chuyên gia giúp giảm khối lượng tính toán, nhưng không làm giảm nhu cầu bộ nhớ: Hugging Face viết, “Cả 256 chuyên gia đều nằm trong bộ nhớ, vì vậy để triển khai cần lượng bộ nhớ tương ứng với mô hình 816 tỷ tham số.” Theo phép tính trong cùng bài viết, bộ nhớ đệm cần cho ngữ cảnh đầy đủ một triệu token còn cộng thêm khoảng 266GB. Vì thế, cấu hình được đề xuất bắt đầu ở mức một terabyte, chứ không phải dung lượng của tệp mô hình.

Apple công bố Mac Studio M5 Ultra vào ngày 25 tháng 8, với giá khởi điểm 5.499 USD, đồng thời cho biết trong thông cáo rằng phiên bản 512GB sẽ “ra mắt vào cuối tháng 10”. Đến ngày 16 tháng 10, mục chọn bộ nhớ trên cửa hàng trực tuyến tại Mỹ của Apple vẫn ghi “tùy chọn bộ nhớ 512GB cho M5 Ultra sẽ ra mắt vào cuối tháng 10”, còn các lựa chọn hiện có chỉ dừng ở mức 256GB. Hiện tại, phiên bản cấu hình Meta đề xuất mà người dùng có thể mua là hệ thống bốn máy, được Technology.org định giá khoảng 38.000 USD.

Trong các bài viết về đợt ra mắt, chưa có số liệu tốc độ độc lập nào cho cấu hình này. Các số liệu chạy tại chỗ độc lập duy nhất đến từ Hugging Face, nhưng được đo trên phần cứng thế hệ trước: trên M3 Ultra 512GB, phiên bản 2-bit đạt tốc độ 18 token/giây khi dùng 304GB bộ nhớ; còn bản oMLX 3-bit đạt khoảng 21 token/giây trong mức 344GB. Đây là những phiên bản nén mạnh của mô hình, gần với ngưỡng hiệu năng thấp hơn là trải nghiệm mà Zuckerberg mô tả.

Vì sao Meta và Apple bỗng thân thiện với nhau

“Chúc mừng cả đội!” Ternus hồi đáp Zuckerberg. “Thật ấn tượng khi có thể chạy một mô hình ở quy mô và đẳng cấp như Muse Spark Open hiệu quả đến vậy, ngay trên bàn làm việc. Mac Studio tiếp tục mở rộng giới hạn của AI chạy trên thiết bị!” Theo The Verge đưa tin, Giám đốc AI của Meta Alexandr Wang nói với Axios: “Chúng tôi rất vui khi bố mẹ lại hòa thuận với nhau.” Axios cũng lưu ý hai công ty đã hợp tác với nhau suốt vài tháng, còn Apple đăng bài viết kỹ thuật riêng về MLX, đề cập đến Muse Spark Open cùng hai mô hình mở khác.

Cả hai phía đều thu được lợi ích cụ thể. Trong thông điệp giới thiệu Mac Studio mới hồi tháng 8, Apple hứa hẹn các máy ghép cụm có thể “tải những mô hình trọng số mở lớn nhất và đòi hỏi cao nhất thuộc nhóm tiên phong hiện có”. Một mô hình của Mỹ ở quy mô tiên phong, đi kèm cấu hình Apple ngay trong ngày ra mắt, chính là kiểu tác vụ mà lời giới thiệu đó cần có. Meta có thêm câu chuyện về khả năng chạy trên máy tính để bàn cho một mô hình mà phần lớn nhóm phát triển sẽ tiếp cận qua máy chủ thuê ngoài: ngay từ ngày đầu, Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter và Together AI đã cung cấp mô hình, bên cạnh các danh mục dịch vụ đám mây của Amazon, Google và Microsoft.

Từ “Mỹ” không phải để cho có

Các bảng điểm chuẩn của Meta cũng cho thấy lý do có thêm cụm từ này. Trong MCP-Atlas, bài kiểm tra khả năng sử dụng công cụ, Meta báo cáo Muse Spark Open đạt 89,2 điểm, so với 82,3 của Kimi K3 và 84,2 của GLM 5.3. Ở Terminal-Bench 2.1, kết quả 76,4 do chính Meta công bố lại thấp hơn cả hai mô hình Trung Quốc, lần lượt đạt 85,0 và 83,9, theo số liệu Digital Applied tổng hợp. Tất cả đều là kết quả do Meta tự chạy; Technology.org lưu ý chưa có đơn vị kiểm định độc lập nào tái lập được các con số này.

Phép thử thực sự sẽ đến khi tùy chọn bộ nhớ của Apple ra mắt vào cuối tháng 10 — thời điểm đầu tiên những người ngoài Meta và Apple có thể mua đúng cấu hình hai máy và công bố kết quả sử dụng. Cho đến lúc đó, lời khẳng định “chạy rất tốt” vẫn là bài đánh giá do chính công ty làm ra mô hình và công ty bán chiếc máy đưa ra.

Thẻ: , , , , ,

Thêm chúng tôi trên Google

Thảo luận

Có 0 bình luận.