Opera chạy AI ngay trên laptop của bạn, không cần thuê bao hay đám mây

Trình duyệt máy tính của Opera giờ đây có thể chạy một mô hình AI ngay trên thiết bị được cài đặt, rồi cung cấp mô hình đó cho các trang web và tiện ích mà bạn cho phép. Tính năng này có tên WebAI, hiện được phát hành dưới dạng bản xem trước sớm trong Opera One. Khi bật tính năng, trình duyệt sẽ tải về một mô hình có trọng số mở như Gemma của Google; riêng trên máy Mac, nó dùng mô hình nền tảng Apple đã tích hợp sẵn vào hệ điều hành. Sau đó, bất kỳ trang web nào được cấp quyền cũng có thể yêu cầu mô hình viết, phân loại hoặc so sánh văn bản.

Thay đổi thiết thực nằm ở chỗ ai phải trả tiền và nội dung bạn viết sẽ đi đâu. Một tiện ích trình duyệt dùng AI để tóm tắt bài viết hoặc sắp xếp lại các thẻ thường gửi trang web lên dịch vụ đám mây, đồng nghĩa với việc cần có tài khoản, khóa API hoặc gói thuê bao hằng tháng để thanh toán chi phí. Với WebAI, văn bản được giữ lại trên laptop, nhà phát triển không mất phí cho từng yêu cầu và người dùng cũng không phải trả đồng nào. Krystian Kolondra, Phó chủ tịch điều hành phụ trách trình duyệt và AI của Opera, cho biết: “Phần lớn những việc mọi người muốn AI làm không cần đến trung tâm dữ liệu. Laptop của bạn đã có thể xử lý được rồi, mà không cần gửi dữ liệu đi đâu cả.”

Opera cung cấp cho nhà phát triển ba khối chức năng nền tảng, gọi là các API Prompt, Decision và Semantic Embeddings. Nói đơn giản, chúng cho phép một trang web tạo văn bản, phân loại thông tin và đo mức độ liên quan giữa hai nội dung. Những ví dụ Opera đưa ra cố ý được giới hạn ở các ứng dụng nhỏ: một tiện ích đánh dấu tiêu đề câu khách, một tiện ích tìm tin tuyển dụng phù hợp khi bạn lướt web, và một tiện ích tô màu từng đoạn trong bài viết dựa trên mức độ liên quan với dự án bạn mô tả.

Để cho thấy phạm vi ứng dụng, Opera đã phát hành sáu tiện ích thử nghiệm, đồng thời nhấn mạnh đây chỉ là bản minh họa chứ không phải tính năng sản phẩm. Một tiện ích tạo câu đố ngắn để kiểm tra xem bạn có hiểu bài viết vừa đọc hay không. Một tiện ích khác, Semantic Art, biến trang web thành những hình khối chuyển động, trong đó các câu có nội dung tương tự trôi lại gần nhau. Một vài tiện ích rõ ràng chỉ nhằm mục đích đùa vui, chẳng hạn công cụ viết lại bất kỳ bài báo nào thành một bài đăng “truyền cảm hứng đến phát ngán” cho mạng xã hội nhại có tên RecordIn, cùng hai chú mèo ASCII ngẫu hứng diễn một cảnh theo bất kỳ chủ đề nào bạn nhập vào.

Tham vọng lớn hơn nằm ở chữ “tiêu chuẩn”. Theo Opera, WebAI là một tiêu chuẩn web được đề xuất và đã nhận được sự ủng hộ của Google lẫn Microsoft. Chrome hiện cũng cung cấp cho nhà phát triển các giao diện AI tích hợp riêng, vận hành mô hình Gemini Nano của Google. Phiên bản của Opera không phụ thuộc vào một mô hình cụ thể: nó có thể dùng các mô hình mở do Opera phân phối, những mô hình tương thích đã có sẵn trên thiết bị hoặc mô hình chạy trực tiếp trên thiết bị của Apple. Nếu các trình duyệt thống nhất dùng chung một giao diện, nhà phát triển có thể viết một tính năng AI duy nhất rồi chạy tính năng đó với bất kỳ mô hình nào có trên trình duyệt của mỗi khách truy cập, thay vì thuê năng lực xử lý đám mây cho từng người đọc.

Những hạn chế vẫn hiện hữu. WebAI mới chỉ là bản xem trước và chỉ hoạt động trên máy tính Windows 64-bit dùng chip Intel hoặc AMD, cũng như máy Mac dùng chip Apple silicon. Linux, máy Mac dùng chip Intel và Windows trên Arm đều chưa được hỗ trợ; Opera cũng chưa đưa ra thông tin gì về các trình duyệt trên điện thoại. Mô hình chạy cục bộ nhỏ hơn nhiều so với những mô hình đứng sau các chatbot đám mây lớn, và chính Opera cảnh báo tốc độ phụ thuộc vào phần cứng. Vì vậy, laptop đời cũ sẽ trả lời chậm hơn trung tâm dữ liệu. Việc giữ văn bản trên thiết bị cũng chỉ bảo vệ phần nội dung mà mô hình xử lý: trang web được bạn cấp quyền vẫn nhìn thấy những gì bạn làm trên đó, như trước nay vẫn vậy.

Opera để quyền bật tính năng trong tay người dùng. Không có gì được tải xuống cho đến khi WebAI được bật trong phần cài đặt AI của trình duyệt; lần tải mô hình đầu tiên có thể mất vài phút, mỗi trang web cần được cấp quyền riêng và bạn có thể tắt toàn bộ tính năng bất cứ lúc nào. Với một công ty đã quảng bá trình duyệt của mình dựa trên quyền riêng tư suốt nhiều năm và cho biết có hàng trăm triệu người sử dụng, thiết kế yêu cầu người dùng chủ động đồng ý chính là trọng tâm trong lời chào mời của Opera.

Được công bố tại Oslo vào ngày 27 tháng 10, đợt ra mắt này tiếp nối bản dựng thử nghiệm dành cho nhà phát triển từ năm 2024, khi Opera trở thành trình duyệt lớn đầu tiên cung cấp quyền truy cập tích hợp vào các mô hình cục bộ. WebAI ra mắt cùng HTML-in-Canvas, một tính năng riêng dành cho nhà phát triển, cho phép đặt các trang web trực tiếp có thể nhấp vào bên trong những khung cảnh 2D và 3D, hướng đến trò chơi và Opera GX. Tiếp theo, WebAI sẽ có mặt trên Opera GX, trình duyệt dành cho game thủ, và Opera Neon, trình duyệt vận hành bằng các tác nhân AI của công ty; Opera chưa công bố thời điểm cụ thể. Công ty cũng dự định phát triển thêm các mô hình mở được tinh chỉnh cho nhiều thiết bị khác nhau và bổ sung công cụ cho nhà phát triển.

Tuy nhiên, cho đến khi các trình duyệt khác hỗ trợ cùng giao diện này, tính năng xây dựng trên WebAI chỉ hoạt động với những người vốn đã dùng Opera. Việc đó có thay đổi hay không phụ thuộc vào Google và Microsoft nhiều hơn là Opera: liệu hai công ty có đưa đề xuất từ mức ủng hộ trên giấy tờ vào chính trình duyệt của mình hay không.

Thẻ: Google, Apple, AI cục bộ, Gemma, Opera One, WebAI

Opera chạy AI ngay trên laptop của bạn, không cần thuê bao hay đám mây

Nội dung tương tự

Ubisoft xây dựng lại Rayman Legends trong 3D với lồng tiếng và một thế giới thứ sáu mới

Sony A7R VI ra mắt hôm nay với cảm biến xếp lớp 67 MP, 8K30p và thân máy giá 4.999 USD

EPYC Venice của AMD là chip máy chủ đầu tiên trên 2nm — 256 nhân và băng thông bộ nhớ 1,6 TB/s

Resonance: A Plague Tale Legacy đổi lối chơi ẩn nấp lấy chiến đấu bằng kiếm — và thuyết phục

Chủ tịch Google DeepMind Demis Hassabis dự báo AGI trong vòng ba năm, muốn chờ thêm mới ra luật

CEO Microsoft Satya Nadella muốn một phanh khẩn cấp cho AI đặt bên ngoài mô hình

Thảo luận