Apple phê duyệt TinyGPU — Mac Mini có thể chạy mô hình AI lớn tại chỗ

Apple đã chính thức ký và chứng nhận driver TinyGPU do Tiny Corp phát triển — công ty do lập trình viên và hacker nổi tiếng George Hotz sáng lập. Đây là lần đầu tiên kể từ khi Apple chuyển sang chip Silicon, người dùng Mac có thể kết nối card đồ họa Nvidia hoặc AMD bên ngoài và sử dụng để chạy các tác vụ trí tuệ nhân tạo — mà không cần vô hiệu hóa các cơ chế bảo mật của hệ thống.

Từ năm 2020 đến nay, việc sử dụng GPU ngoài trên máy Mac với chip Apple Silicon gần như bất khả thi. Các nỗ lực trước đó đều đòi hỏi tắt System Integrity Protection (SIP) — lớp bảo mật cốt lõi của macOS mà Apple chưa bao giờ hỗ trợ chính thức để vượt qua. TinyGPU giải quyết vấn đề này bằng cách hoạt động trong khuôn khổ bảo mật bình thường của macOS thông qua cơ chế DriverKit của Apple, được kích hoạt đơn giản từ phần cài đặt hệ thống.

Hiệu suất thực tế

Theo kết quả kiểm tra của Tiny Corp, một Mac Mini kết nối với AMD Radeon RX 7900 XTX qua Thunderbolt có thể chạy mô hình Qwen 2.5 27B với tốc độ 18,5 token mỗi giây. Với RTX 4090 bên ngoài, các benchmark cộng đồng ghi nhận từ 45 đến 50 token mỗi giây cho các mô hình Llama ở lượng tử hóa Q4 — mức hiệu suất trước đây chỉ đạt được với phần cứng chuyên dụng đắt hơn nhiều lần.

Với những người đã dùng Mac Mini làm máy chủ suy luận AI cục bộ qua các công cụ như Ollama hoặc llama.cpp, sự thay đổi này có tác động ngay lập tức: các mô hình vượt quá dung lượng bộ nhớ unified memory giờ có thể nằm hoàn toàn trong VRAM của GPU ngoài, giúp tốc độ xử lý tăng đáng kể.

Giới hạn cần lưu ý

TinyGPU chỉ dành cho các tác vụ tính toán AI. Driver này không tăng tốc đầu ra màn hình, không cải thiện hiệu suất chơi game và không thay thế GPU tích hợp của Apple Silicon trong công việc chỉnh sửa video hay đồ họa. Card AMD từ thế hệ RDNA3 trở đi hoạt động với quy trình cài đặt tương đối đơn giản; card Nvidia từ thế hệ Ampere trở đi yêu cầu cài Docker Desktop, đòi hỏi người dùng phải quen với môi trường lập trình. Băng thông Thunderbolt 4 cũng tạo ra giới hạn vật lý — cùng một card đồ họa sẽ đạt hiệu suất cao hơn đáng kể khi cắm trực tiếp vào khe PCIe so với kết nối cáp ngoài.

Mac Pro bị khai tử, Mac Mini được nâng cấp

Được biết, Apple trong cùng tháng đó đã lặng lẽ khai tử Mac Pro, gỡ trang sản phẩm khỏi website mà không có thông báo chính thức và không giới thiệu sản phẩm kế nhiệm. Mac Pro từng là chiếc máy tính để bàn dạng module duy nhất của Apple — sản phẩm duy nhất cho phép người dùng chuyên nghiệp mở rộng sức mạnh tính toán bằng linh kiện phần cứng riêng. Việc phê duyệt TinyGPU đồng thời có vẻ là câu trả lời ngầm của Apple: thay vì một chiếc tháp máy tính chuyên dụng, người dùng cần hiệu suất AI cao trên Mac sẽ đạt được điều đó bằng cách kết nối phần cứng ngoài với Mac Mini.

Theo Tom’s Hardware và TechRadar, đây là driver tính toán của bên thứ ba đầu tiên cho GPU ngoài trên Apple Silicon được Apple chính thức phê duyệt qua DriverKit — một tiền lệ đáng chú ý trong hệ sinh thái vốn luôn khép kín của công ty.

Yêu cầu tối thiểu là macOS 12.1 trở lên, cổng Thunderbolt 3, Thunderbolt 4 hoặc USB4, và card đồ họa tương thích trong vỏ eGPU có nguồn điện đầy đủ. TinyGPU có thể tải về qua tài liệu chính thức và kho GitHub của Tiny Corp.

Apple phê duyệt TinyGPU — Mac Mini có thể chạy mô hình AI lớn tại chỗ

Bài viết tương tự

SuperX ra mắt máy chủ AI XN9160-B200, tận dụng GPU NVIDIA Blackwell để mang lại hiệu suấtระดับ siêu máy tính

Tạm biệt Silicon: Trung Quốc vén màn ‘LightGen’ – chip quang tử thách thức Nvidia và phá vỡ ‘bức tường nhiệt’

Những Gã Khổng Lồ Công Nghệ Này Vừa Kích Hoạt Cuộc Cách Mạng Thị Trường Lớn Nhất Kể Từ Internet – Điều Bạn Cần Biết

Buổi Gọi Hồn Bằng Thuật Toán: Nỗi Đau, Chủ Nghĩa Dữ Liệu và Cái Chết của Sự Hữu Hạn

ICARUS: Console Edition được công bố cho PlayStation 5 và Xbox Series

Yêu cầu qubit của thuật toán Shor để phá RSA-2048 giảm một bậc độ lớn trong chưa đầy một năm

Thảo luận