Công cụ này có tên SynthID, ban đầu sẽ chỉ sử dụng cho người dùng Imagen, công cụ tạo hình ảnh của Google, được lưu trữ trên nền tảng máy học Vertex của Google Cloud. Những mẫu watermark (hình mờ dùng để gắn lên ảnh nhằm giữ bản quyền) được tạo từ ứng dụng này hoàn toàn tự động, chúng sẽ giúp phân biệt những sản phẩm dạng hình ảnh được tạo bởi AI, hay ngoài ra, chúng còn có công dụng đánh dấu bản quyền.
Điều này là vô cùng cần thiết bởi trong năm qua, các mô hình trí tuệ nhân tạo có khả năng sáng tạo sản phẩm đang ngày càng phổ biến. AI có thể sản xuất âm nhạc, văn thơ hay cả hình ảnh và kéo theo đó là những vấn đề nhức nhối không hồi kết về vi phạm bản quyền. Vậy nên những Watermark - một kỹ thuật giúp ẩn những tín hiệu trong một đoạn văn bản hoặc hình ảnh, những dấu hiệu này sẽ giúp xác định đó là do AI tạo ra - đã trở thành một trong những ý tưởng phổ biến nhất được đề xuất để hạn chế những vấn đề về bản quyền.
Nếu theo như cách tryền thống, hình ảnh gốc sẽ được đóng dấu bằng cách thêm lớp mờ hiển thị lên chúng hoặc thêm thông tin vào siêu dữ liệu. Nhưng phương pháp này được cho là rất rủi ro, chưa kể hình mờ có thể bị mất khi hình ảnh bị cắt, thay đổi kích thước hoặc chỉnh sửa.
SynthID được tạo bằng hai mạng nơ-ron. Công cụ này lấy hình ảnh gốc và tạo ra một hình ảnh khác trông gần giống với hình ảnh đó nhưng chỉ có một số pixel được sửa đổi. Điều này sẽ tạo ra một mô hình nhúng mà mắt người không thể nhìn thấy được. Mạng nơ-ron thứ hai có thể phát hiện ra mẫu và sẽ cho người dùng biết liệu những hình ảnh đó có hình mờ hay không để có thể phát hiện chúng. SynthID được thiết kế sao cho hình mờ vẫn có thể được phát hiện ngay cả khi hình ảnh được chụp màn hình hoặc chỉnh sửa, bị xoay hay thay đổi kích thước.
Ben Zhao, giáo sư tại Đại học Chicago, người đã nghiên cứu về các hệ thống nhằm ngăn chặn hình ảnh của các nghệ sĩ bị hệ thống AI hủy hoại, cho biết Google DeepMind không phải là công ty duy nhất nghiên cứu các loại phương pháp tạo hình mờ này. Các kỹ thuật tương tự đã tồn tại và được sử dụng trong trình tạo hình ảnh AI nguồn mở. Meta cũng đã tiến hành nghiên cứu về hình mờ, mặc dù hãng vẫn chưa tung ra bất kỳ công cụ tạo hình mờ chính thức nào.
Hình mờ của Google DeepMind được cho là có khả năng chống giả mạo tốt hơn so với những công nghệ tạo hình mờ cho hình ảnh trước đây.
Hoàng Nguyên (theo technologyreview)