AI Deepfake là gì?

Deepfake là một thuật ngữ công nghệ ngày càng phổ biến, chủ yếu chỉ việc sử dụng trí tuệ nhân tạo (AI), đặc biệt là học sâu để tổng hợp, chỉnh sửa video, âm thanh hoặc hình ảnh, khiến nội dung được tạo ra trông giống như thật. Công nghệ này cho phép người ta ‘nói những điều chưa từng nói’ hoặc làm những điều chưa từng làm, thường thấy trong các ứng dụng như đổi mặt (face swap), tạo ra giọng nói giả mạo.

Trên các phương tiện truyền thông và internet, có thể bạn đã thấy người ta ghép mặt của ngôi sao này vào cơ thể diễn viên khác, hoặc sử dụng giọng nói của tổng thống để phát biểu những nhận xét vô lý, những ví dụ này đều là trường hợp điển hình của công nghệ deepfake.

Đổi mới và Rủi ro của Deepfake trong quảng cáo bầu cử

Gần đây, tại Minnesota, Mỹ, đã xuất hiện một quảng cáo tấn công bầu cử được sản xuất bằng công nghệ AI Deepfake, khiến tính minh bạch và cách sử dụng của quảng cáo deepfake trở thành chủ đề nóng. Những quảng cáo này sử dụng AI để kết hợp hình ảnh và giọng nói của ứng cử viên, tạo ra vẻ như ứng cử viên đã phát biểu một số tuyên bố hoặc quan điểm nào đó, trong khi thực tế những nội dung đó có thể hoàn toàn hư cấu.

Ví dụ: Có khán giả lần đầu tiên xem một bản tin nghĩ rằng ‘Video này không lẽ là ứng cử viên tự nói sao? Làm sao có thể vậy?’ Thực tế, nếu không rà soát kỹ, chúng ta rất khó phân biệt thật giả của nội dung deepfake, đó chính là vấn đề lớn nhất.

Tại sao AI Deepfake lại gây ra tranh cãi về tính minh bạch và đạo đức?

Sức mạnh của công nghệ deepfake nằm ở chỗ có thể sản xuất một số lượng lớn hình ảnh và giọng nói ‘trông thật’ với chi phí thấp và nhanh chóng. Tuy nhiên, chính vì lý do đó, nó cũng mang lại những mối nguy tiềm ẩn cho xã hội, bao gồm:

• Can thiệp bầu cử: Giả mạo phát ngôn của ứng cử viên, gây nhầm lẫn cho cử tri, làm tổn hại đến công lý trong nền dân chủ.
• Thiệt hại danh dự: Sử dụng video giả để lan truyền tin đồn, gây tổn hại đến danh tiếng cá nhân, đảng phái hoặc tổ chức.
• Khó truy xuất nguồn gốc: Thật giả khó phân biệt, việc điều tra nguồn gốc nội dung trở nên khó khăn, truyền thông và cơ quan công quyền phải mất công sức để làm rõ.
• Thách thức hệ thống: Các quy định hiện hành thường chưa kịp thời đưa vào các quy định về nội dung do AI tạo ra, dẫn đến khoảng trống trong quản lý.

Nhìn chung, với trường hợp Minnesota, một số cử tri thấy quảng cáo tấn công thực sự có thể bị dẫn dắt để thay đổi quan điểm ban đầu của họ, điều này có ảnh hưởng trực tiếp đến tính công bằng của cuộc bầu cử.

Các ứng dụng phổ biến khác của Deepfake và cảnh công nghệ

Dù bài viết này tập trung vào ứng dụng trong quảng cáo chính trị, thực tế Deepfake còn có những cảnh phổ biến khác:

• Giải trí: ‘Hồi sinh’ các diễn viên đã khuất hoặc các nhân vật trẻ tuổi với hình ảnh kỹ thuật số.
• Quảng cáo marketing: Tạo ra những người đại diện ảo hấp dẫn hơn cho sản phẩm hoặc thương hiệu.
• Lừa đảo trực tuyến: Sử dụng đổi mặt hoặc giọng nói giả để thực hiện các cuộc gọi hoặc video lừa đảo.
• Kiểm tra an toàn thông tin: Dùng để thử nghiệm khả năng chống giả mạo của các hệ thống nhận diện khuôn mặt.

Cần nhắc rằng, khi Deepfake được sử dụng trong các trường hợp đúng đắn và hợp đạo đức, nó thực sự có thể mang lại sự đổi mới và tiện lợi. Tuy nhiên, nếu mất kiểm soát, nó sẽ tạo ra vấn đề xã hội nghiêm trọng.

Tình hình và sự phát triển của quy định quản lý AI Deepfake

Hiện tại, các quốc gia trên thế giới đang đối mặt với những thách thức trong việc quản lý công nghệ Deepfake. Một số bang ở Mỹ đã bắt đầu soạn thảo các quy định liên quan, chẳng hạn như yêu cầu phải ghi nhãn nội dung tổng hợp AI trong một số bối cảnh, hoặc cấm sản xuất nội dung Deepfake gây hiểu lầm trong thời gian bầu cử. Liên minh châu Âu cũng đã đưa vào dự thảo quy định AI yêu cầu phải tiết lộ nguồn gốc của nội dung do AI tạo ra.

Hiện nay do sự phát triển nhanh chóng của công nghệ, nhiều quy định hiện có không theo kịp. Ví dụ về trường hợp quảng cáo deepfake gần đây ở Minnesota, do thiếu quy định rõ ràng, bên quảng cáo dễ dàng tránh trách nhiệm, dẫn đến nhiều tranh cãi. Trong tương lai, ngành công nghiệp và các nhà lập pháp cần phối hợp lấp đầy các khoảng trống quy định để đảm bảo sự phát triển lành mạnh của công nghệ AI và bảo vệ an ninh dân chủ.

Nhận diện và phòng ngừa Deepfake: Từ người dùng thông thường đến các đơn vị chuyên nghiệp

Việc nhận diện video deepfake dựa vào nhiều công nghệ và phương pháp:

• Công cụ tự động phát hiện: Sử dụng phân tích hình ảnh để phát hiện các đặc điểm tổng hợp (như chuyển động môi, ánh sáng, nhấp nháy bất thường, v.v.).
• Đánh dấu nội dung: Khuyến khích người tạo nội dung chủ động ghi chép nguồn gốc tổng hợp AI.
• Giáo dục về truyền thông: Nâng cao nhận thức của công chúng về khả năng nhận diện tin tức giả và deepfake.
• Trách nhiệm của nền tảng: Mạng xã hội và nền tảng video chủ động kiểm tra, đánh dấu hoặc gỡ bỏ nội dung deepfake nghi ngờ.

Đối với sinh viên hoặc đa số người dùng, có thể coi Deepfake như một ‘màn ảo thuật tinh vi’, dù quy trình rất chân thực và thú vị, vẫn cần giữ thái độ hoài nghi và kiểm chứng để tránh bị thông tin giả dẫn dắt.

Ví dụ và Ẩn dụ: Deepfake giống như nghệ thuật thay mặt số

Nếu coi Deepfake như một ‘mặt nạ số’, thì giống như nghệ thuật biến mặt của Tứ Xuyên, AI có thể ngay lập tức khiến một người nói ra hoàn toàn những điều khác biệt hoặc vào vai những nhân vật khác nhau.

Khi một số học sinh trung học thấy quảng cáo deepfake lần đầu, thậm chí họ có thể tin rằng các nhân vật trong đó thật sự đã nói những điều đó. Khi chúng ta hiểu nguyên lý đằng sau, chúng ta có thể như một ảo thuật gia, nắm bắt cách phản bác thủ thuật và sử dụng công nghệ mới này một cách lành mạnh hơn.

Triển vọng tương lai: Cơ hội và thách thức đồng hành

Công nghệ AI Deepfake không chỉ mang lại sự đổi mới mà còn kèm theo những rủi ro. Những tranh cãi hiện tại về quảng cáo bầu cử chính nhắc nhở chúng ta ngày càng cần thiết có đạo đức công nghệ, các cơ chế minh bạch và giáo dục khoa học tốt. Công nghệ AI sẽ không quay lại, khi đối mặt với những hình ảnh thật giả lẫn lộn, việc biết cách kiểm chứng và nghi vấn là điều cần thiết đối với công dân hiện đại.

Đọc thêm và tham gia thảo luận: Nếu bạn muốn tìm hiểu thêm về công nghệ mới, bảo mật mạng và các thuật ngữ liên quan, hãy tham gia vào thảo luận với chúng tôi: Liên kết mời tham gia cộng đồng OKX

Muốn cập nhật nhanh các xu hướng mới nhất, chủ đề nóng trong thị trường crypto và tài chính quốc tế? Hãy tham khảo các bài viết được chọn lọc dưới đây: Trong trường hợp nào cần chú ý đến quảng cáo chính trị AI deepfake? — Lấy ví dụ từ cuộc bầu cử Minnesota

Nếu bạn quan tâm đến công nghệ Web3 và muốn tìm kiếm những cơ hội đầu tư đa dạng, an toàn hơn, hãy tìm hiểu thêm tại OKX — một trong ba sàn giao dịch tiền mã hóa lớn nhất thế giới: Hello Robot 官方網站