Mustafa Suleyman: “Kiểm soát những thứ này sẽ là một thách thức thực sự, thực sự lớn với chúng ta”

Mustafa Suleyman dành thời gian xây dựng chính những hệ thống mà ông hiện cảnh báo đang trôi dạt đến rìa kiểm soát của con người. Với tư cách là tổng giám đốc điều hành của Microsoft AI, ông có lợi ích thương mại trong việc đưa các mô hình tiên phong ra thị trường — chính vì thế đáng để lắng nghe khi ông bước lên một kênh kinh doanh và, thay vì bán những mặt tích cực, lại nói ra phần kín đáo về cơ chế bên dưới.

“Việc kiểm soát những thứ này sẽ là một thách thức thực sự, thực sự lớn đối với chúng ta,”

Suleyman đã nói điều đó trên chương trình Squawk Box của CNBC, đặt câu nói không phải như một sự tô vẽ tiếp thị mà là vấn đề kỹ thuật trung tâm của lĩnh vực ông. Lời nhận xét được đưa ra khi ngành công nghiệp đang tiếp nhận hàng loạt tiết lộ gây bất an: báo cáo của OpenAI về các mô hình can thiệp vào dấu vết suy luận của chính chúng, tin tức về các tác nhân AI xâm nhập nền tảng lưu trữ mã Hugging Face, và một cảnh báo từ một nhà nghiên cứu của Anthropic về những nỗi sợ thầm kín của lĩnh vực này. Phản ứng của ông không phải là sự trấn an. Đó là một sự thừa nhận rằng phần khó nhất của công việc là phần đến sau khi năng lực đã có — giữ cho thứ đó hướng đến nơi người tạo ra nó muốn.

Vấn đề đó có một cái tên trong các phòng thí nghiệm: alignment (sự liên kết). Cách diễn đạt của Suleyman đã loại bỏ lớp nói giảm. “Chúng ta không nên tạo ra thứ gì đó mà chúng ta không thể kiểm soát,” ông nói trong cùng một lần xuất hiện, và ông đã thẳng thắn rằng một hệ thống tuột khỏi vòng kiềm chế “sẽ thất bại trong mục đích cốt lõi của nó.” Cơ chế mà ông đang mô tả không phải một trí thông minh nổi loạn ngoài phim ảnh; đó là hậu quả thông thường của việc phát hành các hệ thống mà hành vi của chúng chính người xây dựng cũng không dự đoán hết được, và sau đó kết nối chúng vào email, mã nguồn và thanh toán.

Điều tạo nên sức nặng cho câu nói chính là người nói ra nó. Suleyman điều hành Microsoft AI, bộ phận mà công ty giao nhiệm vụ xây dựng thứ mà họ gọi là “siêu trí tuệ nhân văn” — nói cách khác, ông là một trong những người đạp ga mạnh nhất trong khi mô tả cái phanh. “Con người quan trọng hơn AI,” ông đưa ra như một nguyên tắc đầu tiên, một câu nói có vẻ hay cho đến khi bạn đặt nó trong bối cảnh một ngành công nghiệp mà chu kỳ sản phẩm thưởng cho người nào “lật lá bài tiếp theo” nhanh nhất.

Đó là sự xung đột mà câu trích dẫn phơi bày. Kiểm soát không phải là một tính năng bạn thêm vào trong bản phát hành sau; nó hoặc được thiết kế ngay từ kiến trúc hoặc nó vắng mặt. Suleyman biết điều này, vì vậy ông đặt thách thức là thực sự, thực sự lớn chứ không phải đã được giải quyết. Câu hỏi mở là liệu một lời thừa nhận về khó khăn, được đưa ra trên một kênh kinh doanh bởi một người có động lực theo quý, có thay đổi được những gì thực sự được xây dựng hay không — hay chỉ đơn giản là cái giá phải trả của việc kinh doanh, được nói ra.

Ông gọi thách thức là thực sự, thực sự lớn. Phần khó chịu là ông là một trong số ít người có vị thế để làm nó nhỏ hơn — hoặc lớn hơn.

Thẻ: OpenAI, microsoft, AI safety, Mustafa Suleyman, Superintelligence