Name: Mac mini (M6)
Brand: Apple

Trước đây, việc tự chạy mô hình AI đồng nghĩa với việc sở hữu phần cứng mà hầu hết mọi người chưa từng thấy: giá đỡ máy chủ, card GPU đắt hơn máy tính xách tay, đăng ký dịch vụ tính toán từ xa. Giờ đây, Mac mini M6 – một hộp nhỏ màu xám có kích thước bằng một cuốn sách dày – làm được công việc tương tự trên bàn làm việc, với giá 899 USD.

Mức giá đó quan trọng vì nó đưa AI cục bộ – suy luận chạy mà không gửi dữ liệu đến máy chủ từ xa – vào trong tầm trang bị mà nhiều chuyên gia đã ngân sách. Các điểm chuẩn của Apple cho thấy M6 nhanh hơn 4,8 lần về tốc độ xử lý prompt LLM so với mẫu M4 mà nó thay thế, đo trong LM Studio. Nói một cách thực tế: một mô hình ngôn ngữ lớn trước đây cần phần cứng chuyên dụng nay chạy trên chiếc máy này, hoàn toàn ngoại tuyến.

Con chip M6 bên trong máy trang bị Neural Engine kép 16 lõi – hai bộ tăng tốc thần kinh hoạt động đồng thời – mà Apple cho biết giúp tính toán thần kinh nhanh gấp đôi thế hệ trước. Nó kết hợp engine đó với CPU 12 lõi và GPU 12 lõi được hỗ trợ bởi băng thông bộ nhớ thống nhất 170 GB/s. Cấu hình tiêu chuẩn có 16 GB bộ nhớ thống nhất, có thể cấu hình lên 32 GB.

Các khối lượng công việc mà nó xử lý trên thiết bị bao gồm mô hình khuếch tán để tạo hình ảnh, chuyển đổi phong cách ảnh theo thời gian thực, tác nhân AI đa bước và suy luận LLM đầy đủ – tất cả đều cục bộ, không cần đăng ký. Apple Intelligence trong macOS 27 hiển thị nhiều tính năng trong số đó thông qua chính hệ điều hành, trong khi các công cụ như LM Studio cho phép người dùng tải bất kỳ mô hình mở nào họ muốn chạy.

Để có bối cảnh về mức độ thay đổi: số liệu của Apple cho thấy M6 nhanh hơn 13,5 lần tốc độ xử lý LLM so với Mac mini M1, một máy bán ra cách đây năm năm. M1 không thể chạy hầu hết các khối lượng công việc AI cục bộ theo bất kỳ nghĩa thực tế nào. M6 thì có thể.

Một Mac mini với chip M5 Pro cũng có sẵn với giá 1.699 USD cho người dùng cần trần bộ nhớ cao hơn hoặc hiệu năng đa lõi cao hơn. Đơn đặt hàng trước đã mở; cả hai model sẽ xuất xưởng vào ngày 22 tháng 9.

Điểm hạn chế là có thật. Một máy 899 USD vẫn cần màn hình, bàn phím và chuột, điều này đẩy chi phí đầu vào cao hơn. Và suy luận AI cục bộ không đơn giản hơn AI đám mây – nó đòi hỏi tìm nguồn mô hình, quản lý cập nhật và xử lý cơ sở hạ tầng mà đám mây thường trừu tượng hóa. Những người mà điều này phù hợp nhất hiện tại là các chuyên gia nhạy cảm về quyền riêng tư không muốn dữ liệu rời khỏi tòa nhà của họ, các nhà phát triển muốn suy luận nhanh mà không bị tính phí theo token, và các nhà nghiên cứu cần một điểm cuối cục bộ ổn định.

Nhóm đó đã chờ đợi phần cứng có giá như một công cụ thay vì một máy chủ. Với M6, cuối cùng Apple đang xây dựng cho họ.

Thẻ: Apple, AI cục bộ, suy luận AI, Apple Silicon, chip M6, Mac mini