Google gỡ AI chỉnh sửa ảnh vệ tinh sau 24 giờ vì lo ngại deepfake

Google Earth đã dành hai thập kỷ để trở thành tài liệu tham khảo trực quan mặc định cho bất kỳ ai muốn xác thực thế giới vật chất thực sự trông như thế nào. Nhà báo dùng nó để ghi lại các vùng xung đột. Nhà nghiên cứu nhân quyền dùng nó để theo dõi các cơ sở giam giữ. Thanh tra viên của Liên Hợp Quốc tham khảo nó từ sự an toàn của văn phòng. Google đã nhanh chóng cung cấp cho nó một thứ mới: một công cụ tạo hình ảnh AI được kết nối trực tiếp vào bản đồ vệ tinh.

Công cụ này, được xây dựng trên Nano Banana 2, mô hình tạo hình ảnh riêng của Google, hoạt động đúng như quảng cáo. Người dùng nhập một dòng văn bản — ‘cho thấy Pompeii trước khi núi lửa phun trào’ hoặc ‘biến đường bờ biển này thành một biểu đồ thông tin’ — và AI phủ hình ảnh được tạo lên các tọa độ thực tế tương ứng. Các trường hợp sử dụng hợp pháp rất dễ hình dung. Những trường hợp nguy hiểm hóa ra cũng dễ thực hiện không kém.

Henk van Ess, một nhà báo điều tra, là một trong những người đầu tiên ghi nhận vấn đề. Trong vòng vài giờ sau khi ra mắt, ông đã tạo ra một nhà máy điện hạt nhân giả trên một địa điểm ở Iran. Kết quả đủ thuyết phục để minh họa cho rủi ro. Đáng lo ngại hơn là những gì xảy ra khi ông kiểm tra biện pháp bảo vệ tích hợp sẵn: Google đã nhúng hình mờ SynthID — lớp xác thực AI của công ty — vào mọi hình ảnh được tạo ra. Van Ess đã vô hiệu hóa nó bằng cách chụp ảnh màn hình thay vì chụp ảnh màn hình. Các công cụ phát hiện AI của bên thứ ba đánh giá hình ảnh thu được chỉ có 1% khả năng do AI tạo ra.

Sự bảo vệ của Google về mặt kỹ thuật là chính xác nhưng thực tế lại không đầy đủ. Công ty lưu ý rằng các hình ảnh được tạo ‘không xuất hiện trong trải nghiệm Google Earth chính để người khác nhìn thấy’ — chúng chỉ dành riêng cho phiên làm việc, chỉ người tạo mới thấy được. Sự khác biệt đó sụp đổ khi bạn chụp ảnh màn hình và chia sẻ kết quả. Một hình ảnh vệ tinh bịa đặt về một cơ sở nhạy cảm, được lan truyền chỉ với một chú thích, không thể phân biệt được với một hình ảnh được tạo ra để lừa dối.

Có một căng thẳng cấu trúc ở đây mà các biện pháp bảo vệ mạnh mẽ hơn có thể không giải quyết triệt để. Cùng một khả năng khiến việc tạo hình ảnh AI trở nên hữu ích cũng khiến nó trở nên nguy hiểm khi nguồn dữ liệu cơ bản là dữ liệu vệ tinh đáng tin cậy. Sự tin tưởng đó phụ thuộc vào giả định rằng những gì Google Earth hiển thị phản ánh thực tế vật lý. Khoảnh khắc nội dung được tạo ra có thể được phủ lên các tọa độ thực — và lớp xác thực bị vô hiệu hóa bằng máy ảnh — giả định đó có một vết nứt không thể đóng lại khi tính năng này bị gỡ bỏ.

Tính năng này đã bị gỡ bỏ vào ngày 31 tháng 7, chưa đầy 24 giờ sau khi ra mắt. Google thừa nhận đã thấy ‘ảnh chụp màn hình của hình ảnh được tạo ra có vẻ vi phạm chính sách của chúng tôi’ và cam kết thực hiện ‘các biện pháp bảo vệ mạnh mẽ hơn’ trước khi khởi chạy lại. Không có mốc thời gian nào được đưa ra. Thời điểm này bổ sung thêm một lớp nữa: kể từ ngày 2 tháng 8, các điều khoản thực thi đầy đủ của Đạo luật AI của EU có hiệu lực trên toàn châu Âu, yêu cầu bắt buộc phải gắn nhãn nội dung do AI tạo ra có thể đánh lừa người dùng — bao gồm, chính xác, hình ảnh tổng hợp được nhúng trong các nguồn thông tin đáng tin cậy.

Thẻ: Google, AI, ảnh vệ tinh, deepfake, Google Earth, thông tin sai lệch