Công nghệ

Elon Musk: Grok 4.8 chậm trễ vì xAI viết lại toàn bộ phần mềm từ đầu bằng C/C++

Grok mới bị chậm trễ vì xAI đã loại bỏ các công cụ nguồn mở mà họ đã dùng để huấn luyện và phục vụ các mô hình của mình. Musk gọi kết quả là "chưa thực sự đáng kinh ngạc" và đang đặt cược rằng việc viết lại sẽ mang lại thành quả trong Grok 5.
Adrian Kessler
Thêm chúng tôi trên Google

Điều đáng chú ý trong cập nhật mới nhất của Elon Musk về Grok không nằm ở ngôn ngữ lập trình. Đó là điều ông thừa nhận trong bài đăng: mẫu tiếp theo bị chậm tiến độ vì đội ngũ phát triển đã loại bỏ bộ công cụ mã nguồn mở dùng để huấn luyện và vận hành mô hình, rồi tự viết lại toàn bộ.

Nếu xem đây là lời hé lộ trước ngày ra mắt, bài đăng mang sắc thái lạc quan: huấn luyện đã hoàn tất, kết quả đánh giá đang đi lên và bản phát hành giới hạn sẽ bắt đầu trước khi tuần này kết thúc. Nhưng nhìn từ góc độ hệ thống, câu chuyện còn hàm chứa điều lớn hơn. xAI, hiện thuộc SpaceX, đã quyết định rằng các framework dùng chung đang kìm hãm mình, và đặt cược vào việc tự làm chủ mọi lớp phần mềm nối các nhà nghiên cứu với GPU — không chỉ cho mẫu này mà cả mẫu tiếp theo.

“Chúng tôi đã bỏ JAX/SGLang và viết lại toàn bộ hệ thống RL lẫn suy luận từ đầu bằng C/C++, việc này tốn thêm chút thời gian,” Musk viết trên X, trả lời một người dùng hỏi khi nào Grok 4.8 sẽ ra mắt. JAX là thư viện tính toán số dựa trên Python mà xAI dùng để huấn luyện; SGLang là framework mã nguồn mở phục vụ các mô hình ngôn ngữ lớn. Ông cho biết giai đoạn tiền huấn luyện đã hoàn tất, sau khi “phải dọn dẹp khá nhiều dữ liệu SFT” — bộ dữ liệu tinh chỉnh có giám sát. “Giờ đây, 4.8 đang ở giai đoạn RL và các kết quả đánh giá bắt đầu tăng lên.”

Câu nói đó lý giải khoảng trống do chính Musk tạo ra. Hồi giữa tháng 9, ông giới thiệu mẫu này là “mô hình 2,5 nghìn tỷ tham số được huấn luyện bằng bộ phần mềm C++ mới của chúng tôi”, dự kiến “hoàn tất huấn luyện trong tuần này và bắt đầu RL”. Cũng vào khoảng thời gian đó, theo Analytics India Magazine, ông nhận xét phần học tăng cường “vẫn là một mớ hệ thống phần mềm bên thứ ba cũ kỹ, chắp vá”, và cần được khắc phục “vào thời điểm thích hợp”. Đến cuối tháng 10, ông viết: “Tôi biết mọi việc kéo dài hơn dự kiến, nhưng Grok 4.8 sẽ không làm mọi người thất vọng.” Hóa ra, quá trình khắc phục chính là nguyên nhân gây chậm trễ. Mã tiền huấn luyện vốn đã được làm mới; phần dạy mô hình cách hành xử và phần trả lời người dùng phải được xây dựng lại trước khi mô hình có thể chuyển sang bước tiếp theo.

“Viết lại bằng C++” trong các dòng tít thực chất phần lớn là viết bằng C. Khi được hỏi về ngôn ngữ, Musk trả lời: “C, có thêm một chút C++, nhưng không nhiều.” Ông cho biết bộ phần mềm này phát triển từ những chương trình mà các kỹ sư SpaceX viết cho Starlink (ông nói thêm: “Ở SpaceX, chúng tôi tự viết các tệp header và tự tính toán thời gian”), đồng thời hồi tháng 9, ông cho biết mã tiền huấn luyện do đội Starlink viết và “không phải do AI viết”, bởi “AI vẫn chưa đủ giỏi để tạo ra phần mềm hiệu năng cực cao (nhưng rồi sẽ làm được)”.

Lý do đằng sau lựa chọn này đã được công khai từ mùa xuân. Cuối tháng 5, Musk nói SpaceX gần hoàn tất bộ công cụ huấn luyện nội bộ viết bằng C, có khả năng “ánh xạ chính xác” lên cụm gồm 220.000 chip Nvidia GB300, đồng thời cho rằng tốc độ có thể nhanh hơn JAX “hơn một bậc độ lớn” trong các đợt huấn luyện quy mô lớn. Cuối tháng 6, ông hứa hẹn sẽ có “những cải thiện thực sự khổng lồ” trong khoảng ba tháng, một khi toàn bộ hệ thống huấn luyện và suy luận được viết lại và “phần lớn các lớp phần mềm sẽ bị xóa bỏ hoàn toàn”. So với mốc thời gian đó, việc viết lại đã chậm khoảng sáu tuần. Chưa có tuyên bố nào về tốc độ được đo kiểm bên ngoài công ty.

Tự làm chủ bộ phần mềm có cả mặt lợi lẫn mặt hại. Loại bỏ JAX và SGLang giúp xAI thoát khỏi những khuôn khổ trừu tượng và lịch phát hành do bên khác quyết định, đồng thời cho phép các kỹ sư ánh xạ phần mềm trực tiếp lên một loại phần cứng cụ thể. Đổi lại, mọi lỗi trong vòng lặp huấn luyện và quy trình phục vụ mô hình giờ đây đều chỉ thuộc về xAI, trong một hệ thống mã mà chưa cộng đồng bên ngoài nào sử dụng trước khi nó đến tay người dùng.

Musk cũng đang hạ thấp kỳ vọng một cách mạnh mẽ. “May mà Grok 4.8 sẽ chẳng giống Grok 4.7 chút nào,” ông viết, công khai chê bai mẫu mà xAI phát hành ngày 21 tháng 9. “Nó chưa thể gọi là phi thường, nhưng lần này, nền móng đã được xây đúng cách, nên tôi kỳ vọng nó sẽ phát triển thành một thứ gì đó đặc biệt.” Chưa đầy một giờ sau, khi được hỏi 4.8 sẽ so với Opus 5.5 của Anthropic ra sao, ông trả lời: “Không bằng. Opus 5.5 là một kiệt tác.” Lời hứa thực sự của ông hướng đến xa hơn: “Grok 5 sẽ vượt Opus 5.5, và có thể điều đó sẽ xảy ra trong 2 hoặc 3 tháng nữa.”

Mọi thông tin khác vẫn chưa xuất hiện. Theo các đơn vị theo dõi những trang này, trang tin tức và tài liệu dành cho nhà phát triển của xAI chưa đăng thông tin nào về mẫu mới; cũng chưa có thẻ mô hình, điểm chuẩn, giá bán hay danh sách API. Con số 2,5 nghìn tỷ tham số chỉ do Musk đưa ra, tương tự các kết quả đánh giá mà ông nói đang tăng lên. Bản phát hành giới hạn sẽ đến với người dùng Grok Bot “vào cuối tuần này”, nhưng chưa có ngày cụ thể; hồi tháng 10, Musk cho biết phần lớn yêu cầu trong số đó sẽ được xử lý bởi “một phiên bản Grok 4.8 cực nhanh”.

Vì vậy, đợt phát hành trong tuần này sẽ kiểm tra hệ thống vận hành nhiều hơn là bản thân mô hình. Nếu mô hình trụ vững trước lưu lượng truy cập thực tế trên Grok Bot, bộ phần mềm viết lại sẽ trở thành nền tảng để huấn luyện Grok 5. Nếu gặp trục trặc, sẽ chẳng còn framework nào của bên ngoài để đổ lỗi.

Thẻ: , , , ,

Thêm chúng tôi trên Google

Thảo luận

Có 0 bình luận.