Công cụ deepfake AI của Google Earth chỉ tồn tại một ngày — và làm lung lay niềm tin mà nó dựa vào

Cách nhanh nhất để hiểu Google vừa làm gì với Google Earth là nhìn vào tốc độ họ tháo lui. Một tính năng cho phép bất kỳ ai vẽ nên thực tại hư cấu lên bản đồ đáng tin cậy nhất hành tinh đã xuất hiện, gây ra làn sóng báo động từ những người kiểm chứng hình ảnh chuyên nghiệp, và biến mất trước khi đa số người dùng kịp thấy nó. Google gọi sự đảo chiều này là tạm dừng. Nhưng nó giống hơn một công ty đang phát hiện ra, ngay trước công chúng, rằng mình đã tung ra thứ sai lầm trên đúng sản phẩm sai lầm.

Cơ chế vận hành quan trọng hơn màn kịch. Toàn bộ giá trị của Google Earth nằm ở tính chứng cứ: đó là nơi các nhà báo, tòa án, tổ chức giám sát nhân đạo và điều tra viên nguồn mở tìm đến chính xác bởi vì ảnh vệ tinh rất khó làm giả. Gắn một trình tạo hình ảnh từ lệnh văn bản lên bề mặt đó không phải là thêm một món đồ chơi sáng tạo — mà là làm suy giảm thuộc tính duy nhất khiến sản phẩm đáng tin cậy. Công cụ đã làm đúng những gì nó được xây dựng để làm. Đó mới là vấn đề.

Biện hộ của Google, trước khi rút lui, là hình mờ. Mọi hình ảnh được tạo ra, công ty lưu ý, đều mang SynthID — dấu hiệu vô hình của họ cho nội dung AI — và người dùng luôn có thể kiểm tra ảnh bằng Gemini hoặc Lens. Nhưng hình mờ là công cụ pháp y dành cho những ai đã nghi ngờ một bức ảnh và có phương tiện để kiểm tra nó. Nó chẳng làm được gì vào thời điểm thực sự quan trọng — lúc lướt, lúc chia sẻ, lúc chụp màn hình bị tách khỏi ngữ cảnh và bị đẩy vào một luồng tin nơi không ai dừng lại để xác minh. Cung cấp SynthID như một lớp bảo vệ không phải là kiểm soát mà là một cái cớ: bằng chứng cho thấy rủi ro đã được xem xét và thông qua.

Bài viết nên đọcMột AI viết được mã khai thác zero-day — Google chặn được trước cuộc tấn công

Những gì thế giới bên ngoài tạo ra chỉ trong vài giờ là phần Google nên ngẫm nghĩ. Các nhà nghiên cứu kiếm sống bằng việc thử nghiệm những hệ thống này không cần đến vài tuần. Họ đã tạo ra một nhà máy hạt nhân ở Iran, người tị nạn dồn ứ ở biên giới, một hố bom trong bệnh viện, một hố bom rơi xuống một thành phố phương Tây — đúng danh mục những hình ảnh có thể làm rung chuyển thị trường, đốt cháy xung đột và vượt qua mọi lời cải chính. Một điều tra viên báo cáo rằng không có yêu cầu nào của anh ta bị từ chối. Đó không phải câu chuyện về sự lạm dụng thông minh. Đó là câu chuyện về một bản phát hành dường như đã không vượt qua được bài kiểm tra đối kháng cơ bản nhất trước khi ra mắt — bài kiểm tra mà những người lạ sau đó đã thực hiện miễn phí, với cái giá phải trả là của Google.

Các nhà nghiên cứu của Bellingcat từ lâu đã coi ảnh vệ tinh là một canh bạc an toàn trong nền kinh tế thông tin sai lệch, chính xác bởi vì nguồn ảnh nằm cao trên bầu trời và ngoài tầm với. Mối nguy hiểm của một công cụ như thế này không phải là bất kỳ bức ảnh giả đơn lẻ nào. Đó là mối nguy mơ hồ: một khi những bức ảnh vệ tinh giả có vẻ thật trở nên dễ dàng tạo ra, thì mọi bức ảnh thật đều có thể bị nghi ngờ. Kẻ làm giả thắng ngay cả khi bị phát hiện, bởi vì sự hoài nghi chính là sản phẩm. Một tiền lệ đã tồn tại — những bức ảnh vệ tinh bịa đặt về một căn cứ quân sự Mỹ bị hư hại đã lan truyền trong một cuộc xung đột Trung Đông gần đây, được ghép từ ảnh Trái Đất và AI. Google vừa cố biến quy trình đó thành một nút bấm.

Vì vậy, câu hỏi về trách nhiệm giải trình không phải là Google có hành động nhanh hay không. Mà là tại sao tính năng đó lại tồn tại ngay từ đầu, trên sản phẩm này, với một hình mờ đóng vai trò là lan can bảo vệ. Tuổi thọ hai mươi bốn giờ không phải là một chiến thắng của khả năng phản ứng; nó là biên lai cho một quy trình quản trị đã để cho một tác hại có thể thấy trước được tung ra và trông cậy vào internet để bắt lỗi. Công ty nói rằng họ sẽ đưa tính năng trở lại với các biện pháp kiểm soát mạnh mẽ hơn. Cách đọc trung thực hơn là Google đã tiêu xài một phần tài sản khó kiếm được nhất của Google Earth — uy tín của nó như một bằng chứng — để xem liệu họ có thể thoát khỏi sự đánh đổi đó hay không.

Lần này thì không. Nhưng tấm bản đồ đã được chứng minh là có thể vẽ lên được, và kiến thức đó không thể quay ngược lại chỉ vì tính năng đã bị gỡ bỏ.

Thẻ: Google, ảnh vệ tinh, deepfake, Google Earth, Nano Banana

Nội dung tương tự

Người dùng cuộn mãi cho đến khi tìm được một hình ảnh chứng minh rằng con người đã tạo ra nó

Các mô hình của OpenAI tự xâm nhập Hugging Face — không có người nào ra lệnh

Buổi Gọi Hồn Bằng Thuật Toán: Nỗi Đau, Chủ Nghĩa Dữ Liệu và Cái Chết của Sự Hữu Hạn

Sự cố thoát khỏi phòng thí nghiệm của OpenAI trở thành dự luật ngắt AI trong chín ngày

Quét 380.000 ứng dụng dựng bằng AI, hàng nghìn ứng dụng không có bất kỳ kiểu xác thực nào

AI của Google giải các bài toán bỏ ngỏ suốt 56 năm với chỉ vài trăm đô la