Name: GPT-6 Luna
Author: OpenAI

Mark Zuckerberg giới thiệu mô hình AI mới nhất của Meta chỉ bằng một câu trên X: “Hôm nay ra mắt Muse Ember — mô hình nhỏ nhất của chúng tôi, nhưng mang lại năng lực thông minh cao hơn trên mỗi đô la so với các mô hình cùng phân khúc.” Phần lớn bài viết về màn ra mắt này xem đó là một đợt giảm giá: Meta hạ giá để cạnh tranh với các mô hình nhỏ, rẻ mà Anthropic và OpenAI bán cho những nhà phát triển xây dựng tác nhân AI.

Nhưng đây không phải là giảm giá, ít nhất là trên bảng giá. Muse Ember tính đúng mức phí mà hai đối thủ được nêu tên thu cho mỗi token đầu vào và đầu ra. Khoản tiết kiệm Meta quảng bá là có thật, nhưng nằm ở chỗ khác: mô hình cần viết bao nhiêu trước khi đưa ra câu trả lời. Đây là tuyên bố đáng chú ý hơn một đợt giảm giá, nhưng cũng khó để người mua kiểm chứng hơn trước khi nhận hóa đơn.

Meta đã ra mắt những gì

Muse Ember là mô hình thứ tư trong dòng Muse của Meta, sau Spark, Glimmer và Wonder, đồng thời là mô hình nhỏ nhất. Meta Superintelligence Labs phát triển nó để xử lý những bước lặp đi lặp lại bên trong một tác nhân; theo lời Zuckerberg, đó là “các tác vụ phụ về lập trình, định tuyến, trích xuất và phân tích tài liệu dài”. Meta mô tả thẳng thừng sự phân công giữa các mô hình: “Muse Wonder lập kế hoạch, Muse Ember xử lý khối lượng công việc.” Alexandr Wang, người đứng đầu Meta Superintelligence Labs, cho biết Ember là mô hình đầu tiên được phát hành sau khi huấn luyện bằng Muse Wonder Full, mô hình lớn nhất của Meta.

Meta cho biết Ember có thể đọc văn bản, hình ảnh, âm thanh và video, xử lý ngữ cảnh dài một triệu token, đồng thời tạo ra tối đa 512.000 token trong một câu trả lời. Đây là mô hình đóng. Người dùng không thể tải trọng số về; mô hình chạy trên Model API do Meta lưu trữ và trong Muse Code, tác nhân lập trình của Meta. Google Cloud và Oracle Cloud cũng được liệt kê là các nền tảng có thể sử dụng mô hình.

Mức “hiệu quả trên mỗi đô la” đến từ đâu

Meta niêm yết giá Ember ở mức 0,10 USD cho mỗi triệu token đầu vào và 0,50 USD cho mỗi triệu token đầu ra. Claude Haiku 5.5 của Anthropic và GPT-6 Luna của OpenAI cũng có cùng mức giá cơ bản, như MarkTechPost và Fello AI đã chỉ ra. Ưu thế duy nhất trên bảng giá nằm ở đầu vào được lưu trong bộ nhớ đệm — tức văn bản mô hình đã xử lý và có thể dùng lại — với mức phí 0,004 USD cho mỗi triệu token, so với 0,01 USD của cả hai đối thủ.

Khoảng cách chỉ lộ ra khi tính theo từng tác vụ. Trên Artificial Analysis Intelligence Index, bộ tiêu chuẩn đánh giá độc lập, Ember đạt 36 điểm, ngang Haiku 5.5 ở thiết lập cao nhất, với chi phí khoảng 0,14 USD mỗi tác vụ so với 0,41 USD của Haiku. Phân tích dữ liệu Artificial Analysis của Fello AI lý giải nguyên nhân: trên toàn bộ chỉ số, Ember tạo ra khoảng 115 triệu token đầu ra, còn Haiku tạo ra khoảng 298 triệu, dù mức phí cho mỗi token đầu ra giống nhau. Giá mỗi token như nhau, nhưng số token cần dùng ít hơn nhiều. GPT-6 Luna có chi phí mỗi tác vụ gần bằng Ember, ở mức 0,15 USD, nhưng chỉ đạt 28 điểm.

Cơ chế này đáng lưu ý vì bảng giá không ghi số token. Nhà phát triển so sánh giá niêm yết sẽ thấy ba mô hình giống hệt nhau. Khác biệt chỉ xuất hiện khi tác nhân bắt đầu hoạt động, và mức chênh lệch thay đổi tùy theo tác vụ, bộ công cụ điều phối và thiết lập suy luận. Phép so sánh của Meta dùng mức nỗ lực suy luận tối đa; tài liệu dành cho nhà phát triển của hãng cũng ghi đây là thiết lập mặc định của Ember.

Mức giá tăng gấp ba

Trang dành cho nhà phát triển của Meta nêu thêm một bậc giá mà thông điệp ra mắt không đề cập. Khi vượt quá 200.000 token đầu vào, Ember có giá 0,30 USD cho mỗi triệu token đầu vào và 1,50 USD cho mỗi triệu token đầu ra — gấp ba lần mức giá được nhấn mạnh. Tài liệu của Meta cảnh báo rằng một yêu cầu có lịch sử hội thoại dài có thể vượt ngưỡng này. Bài viết về màn ra mắt của MarkTechPost cho biết Meta không niêm yết mức giá dành cho ngữ cảnh dài của Ember; tuy nhiên, bảng giá của chính Meta lại ghi điều ngược lại.

Mức giá này áp dụng đúng vào trường hợp Zuckerberg quảng bá. “Phân tích tài liệu dài” cùng cửa sổ ngữ cảnh một triệu token khuyến khích nhà phát triển đưa vào toàn bộ kho mã nguồn và bộ tài liệu — những yêu cầu dễ vượt ngưỡng nhất. Dù vậy, Ember vẫn rẻ hơn Haiku 5.5 trong trường hợp này, bởi theo MarkTechPost, Haiku tính 0,50 USD cho đầu vào và 2,50 USD cho đầu ra khi vượt quá 100.000 token trong câu lệnh. Nhưng lời hứa “giá rẻ” giờ thành “rẻ hơn lựa chọn thay thế” — một cam kết khác hẳn.

Các bài kiểm chuẩn cho thấy gì, và ai thực hiện

Meta công bố mười hạng mục so sánh Ember với Haiku 5.5 và GPT-6 Luna. Kết quả nổi bật nhất của Ember là ở AutomationBench, bài kiểm tra của Artificial Analysis với 657 quy trình nghiệp vụ trên Zapier: mô hình hoàn thành 37,8% tác vụ, so với 13,9% của Haiku và 20,2% của Luna. Thất bại rõ rệt duy nhất của Ember là ở FrontierCode 2.0, bài đánh giá các thay đổi mã nguồn thực tế dựa trên khả năng một người bảo trì có chấp nhận hợp nhất hay không: Haiku đạt 34,9 điểm, còn Ember đạt 27,2.

Fello AI thống kê nguồn của từng con số. Năm hạng mục lấy từ Artificial Analysis, bốn hạng mục do Meta tự chạy, còn hạng mục Terminal-Bench kết hợp các thiết lập khác nhau: kết quả của Ember do Artificial Analysis thực hiện, trong khi số liệu của hai đối thủ do chính họ công bố. Fello cũng lưu ý rằng trang mô hình của Artificial Analysis chỉ liệt kê văn bản và hình ảnh là đầu vào của Ember, nên hiện tại tuyên bố hỗ trợ âm thanh và video vẫn chỉ dựa trên thông tin từ Meta.

Muse Ember dành cho ai

Bài đăng ra mắt của Meta nói rằng chi phí của Ember “đủ thấp để chạy trên mọi sản phẩm, dành cho tất cả mọi người”. Nhưng hiện tại, mô hình chưa có mặt trong bất kỳ sản phẩm tiêu dùng nào của Meta: Fello AI cho biết Ember không xuất hiện trong ứng dụng Meta AI, WhatsApp hay tác nhân Muse. Đây là một cấu phần dành cho tác nhân của các công ty khác, và những lời nhận xét từ đối tác mà Meta chọn đăng cũng cho thấy điều đó. Saoud Rizwan, nhà sáng lập Cline, giới thiệu mô hình với “các nhóm muốn cắt giảm chi phí bằng cách chạy nó như tác nhân phụ trong bộ công cụ điều phối của mình”. Dane Knecht, Giám đốc công nghệ của Cloudflare, cho biết mô hình “chạy nhanh hơn tới 30% ở phần đuôi phân phối so với mô hình tương đương mà chúng tôi thử nghiệm”.

Đó là canh bạc của Ember. Meta không tìm cách giành lấy ô chat bằng mô hình này. Hãng muốn Ember trở thành lệnh gọi được thực hiện cả nghìn lần mỗi giờ bên trong tác nhân của một công ty khác, trong khi một mô hình lớn hơn đảm nhiệm việc suy nghĩ. Ở vị trí đó, hóa đơn phụ thuộc vào một con số mà không nhà cung cấp nào công bố: mô hình cần bao nhiêu token để hoàn thành công việc.

Thẻ: meta, Mark Zuckerberg, mô hình AI, Claude Haiku, Muse Ember