Gần đây, các hệ thống tạo hình ảnh như Khuếch tán ổn định, Imagen và Dall-E 2 đã được đưa tin do khả năng tạo ra hình ảnh có độ phân giải cao không dựa trên vào bất kỳ điều gì ngoài lời nhắc của ngôn ngữ tự nhiên. Hệ thống đã được đào tạo trên hàng nghìn hình ảnh dưới dạng mẫu.

Trong nỗ lực mới này, các nhà nghiên cứu, một số người trong số họ là thành viên của nhóm đã tạo ra một trong các hệ thống, đã phát hiện ra rằng các hệ thống này đôi khi có thể mắc một sai lầm khá nghiêm trọng. Thay vì tạo ra một hình ảnh mới, hệ thống chỉ cần tạo ra một trong những hình ảnh từ dữ liệu đào tạo của nó. Hệ xảy ra hơi thường xuyên, nhóm đã tìm thấy hơn 100 trường hợp trong số 1.000 hình ảnh trả về trong quá trình thử nghiệm.

Đây là một vấn đề vì các bộ dữ liệu thường được lấy từ internet và nhiều bộ có bản quyền. Trong quá trình thử nghiệm, nhóm phát hiện ra rằng khoảng 35% hình ảnh được sao chép có thông báo bản quyền. Khoảng 65% không có thông báo rõ ràng, nhưng dường như thuộc về những hình ảnh được bảo vệ theo luật bảo vệ bản quyền chung.

Các nhà nghiên cứu lưu ý rằng hầu hết các hệ thống tạo hình ảnh dựa vào AI đều có một giai đoạn xử lý trong đó tiếng ồn được thêm vào để ngăn hình ảnh trả về từ bộ dữ liệu, thúc đẩy hệ thống tạo ra thứ gì đó mới. Họ cũng lưu ý rằng đôi khi một hệ thống đã thêm nhiễu vào hình ảnh được sao chép, khiến việc nhận biết đó là bản sao trở nên khó khăn hơn.

Nhóm nghiên cứu kết luận rằng các nhà sản xuất các sản phẩm như vậy cần thêm biện pháp bảo vệ khác để ngăn chặn các bản sao bị trả lại.