Nỗi sợ đến từ những bức ảnh quá khứ biết 'động đậy'

Trào lưu Deep Nostalgia làm cộng đồng mạng xôn xao trong thời gian qua đã khiến nhiều người lo ngại lượng video giả sẽ ngày càng gia tăng.

Vào tháng 2, trang web chuyên về bảo tồn phả hệ MyHeritage đã cho ra mắt dịch vụ Deep Nostalgia giúp người dùng "thổi hồn" vào những bức ảnh chân dung người quá cố của gia đình.

Cụ thể, tính năng này sử dụng AI được cấp phép từ D-ID để tạo hiệu ứng chuyển động cho một bức ảnh tĩnh. Deep Nostalgia được nhiều người sử dụng để giúp những bức ảnh cũ của người thân hoặc một nhân vật nào đó "sống lại" trong giây lát. Trào lưu này nhanh chóng được giới trẻ đón nhận bởi tính độc lạ và giải trí của nó.

Một bức ảnh sử dụng Deep Nostalgia. Ảnh: MyHeritage.

Về cơ bản, Deep Nostalgia là ứng dụng của công nghệ deepfake vốn rất nổi tiếng từ năm 2018.

Trước đây, deepfake từng bị lạm dụng vào việc tạo ra các video khiêu dâm giả mạo người nổi tiếng. Nghiêm trọng hơn, nó còn được sử dụng cho những mục đích xấu nhằm hạ thấp danh dự của người khác. Việc này khiến nhiều người đã xem deepfake như một "bóng ma" của Internet.

Hiện tại, Deep Nostalgia của MyHeritage là một trong số ít dịch vụ tạo ảnh giả mà người dùng có thể dễ dàng tiếp cận. Do đó, việc các video deepfake dần phổ biến trở lại khiến nhiều người lo rằng những sự kiện hoặc tin tức ngụy tạo sẽ xuất hiện ngày một nhiều.

Vào tháng 9/2019, nguy cơ thao túng video và cung cấp tin tức giả tăng cao buộc Facebook và Microsoft phải bắt tay với nhau để chống lại các video deepfake. Tháng 12/2019, Trung Quốc thậm chí phải ban hành lệnh cấm xuất bản và phát tán tin tức giả sử dụng AI.

Deep Nostalgia được tạo ra với mục đích nhân văn. Nhưng MyHeritage lại lo ngại dịch vụ của họ sẽ phát triển lệch hướng, nhất là với bối cảnh các video deepfake đang xuất hiện tràn lan như hiện nay. Ảnh: The Guardian.

Mục đích ban đầu của MyHeritage là để người dùng trải nghiệm sự hoài cổ, thân thương khi làm cho tổ tiên yêu quý của mình sống lại. Tuy nhiên, họ cũng nhận thức được những video deepfake có thể được tạo ra với mục đích xấu và để lại hậu quả nghiêm trọng.

Theo The Quint, nhiều người công nhận tính năng này rất kỳ diệu. Họ có thể xem Rembrandt, Rosalind Franklin hoặc ông bà của họ thể hiện những biểu cảm khác nhau. Tuy nhiên, số khác lại cho rằng điều này có chút đáng sợ.

Dù được tối ưu để tập trung vào những bức ảnh chân dung, khả năng tạo video deepfake của Deep Nostalgia vẫn còn rất lớn. Do đó, MyHeritage đã không thêm vào tính năng tạo giọng nói để tránh dịch vụ của họ bị lạm dụng gây ảnh hưởng đến người khác.

Theo Zing/The Quint

Video deepfake Putin và Kim Jong Un gây sốt trên mạng

Video deepfake (hiệu ứng làm giả video ghép hình nhân vật) của Tổng thống Nga Putin và Chủ tịch Triều Tiên Kim Jong Un nói về nước Mỹ được chia sẻ nhiều trên mạng xã hội.