Deepfake là gì? Ví dụ, ứng dụng, thách thức đạo đức

Năm 2020, hai nhà sáng tạo South Park là Trey Parker và Matt Stone tiếp tục thực hiện một tác phẩm deepfake đáng chú ý: tập thử nghiệm của loạt phim "Sassy Justice" với các nhân vật hư cấu được “đóng bởi” deepfake của Donald Trump và Mark Zuckerberg, cùng những người khác.

Deepfake hoạt động như thế nào?

Khi nói về deepfake, chúng ta thường tập trung vào sản phẩm cuối cùng. Hãy đào sâu hơn một chút để hiểu cách chúng được tạo ra—tôi sẽ đảm bảo bạn nắm được cơ chế ngay cả khi không có nền tảng kỹ thuật.

Mô hình phân biệt và mô hình sinh

Mô hình phân biệt dùng để phân biệt giữa các đối tượng—ví dụ, một ảnh là thật hay giả. Chúng quan sát dữ liệu và cố gắng dự đoán nhãn đúng (như “thật” hoặc “deepfake”). Các ví dụ phổ biến gồm hồi quy logistic, cây quyết định, mạng nơ-ron và máy vector hỗ trợ. Những mô hình này rất phù hợp cho nhiệm vụ phát hiện deepfake vì chúng được huấn luyện để nhận ra dấu hiệu cho thấy nội dung đã bị thay đổi hoặc thao túng.

Ngược lại, mô hình sinh cố gắng hiểu cách dữ liệu thật vận hành để có thể tạo ra dữ liệu mới tương tự. Chúng học từ rất nhiều ví dụ thật—như ảnh khuôn mặt thật hoặc các đoạn giọng nói thật—rồi dùng kiến thức đó để tạo nội dung giả nhưng trông chân thực. Đây là cách deepfake được tạo ra.

Điểm khác biệt chính nằm ở mục đích sử dụng: mô hình phân biệt dùng để phát hiện, còn mô hình sinh dùng để tạo. Trong công nghệ deepfake, cả hai đều quan trọng—một bên để tạo ra sản phẩm giả thuyết phục, bên kia để phát hiện chúng.

Để tìm hiểu thêm về sự khác nhau, hãy xem bài blog về mô hình sinh và mô hình phân biệt.

Mạng sinh đối kháng

GAN là một dạng AI sinh, huấn luyện đồng thời mô hình sinh và mô hình phân biệt. Mối quan hệ giữa hai mô hình này có thể ví như cạnh tranh thân thiện: bộ sinh tạo nội dung tổng hợp, còn bộ phân biệt tìm cách phân loại đâu là thật, đâu là giả. Sự đối đầu này thúc đẩy bộ sinh cải thiện cho đến khi đầu ra gần như không thể phân biệt với nội dung thật.

Trong deepfake, vai trò của mô hình sinh giống một kẻ làm giả nghệ thuật vẽ tranh nhái, còn mô hình phân biệt là nhà phê bình nghệ thuật soi xét để tìm hàng giả. Khi được tiếp xúc với ngày càng nhiều dữ liệu, cả “người làm giả” lẫn “nhà phê bình” đều giỏi hơn, tạo ra bản sao ngày càng thuyết phục và đánh giá ngày càng chính xác.

Quy trình bao gồm huấn luyện mô hình trên các bộ dữ liệu lớn để nắm bắt đặc trưng riêng của đối tượng, như tông giọng và đặc điểm khuôn mặt. Bằng cách phân tích dữ liệu này, hệ thống dần xây dựng một biểu diễn chính xác của mục tiêu, rồi dùng nó để bắt chước một cách thuyết phục.

Các kỹ thuật deepfake

Các kỹ thuật hoán đổi khuôn mặt phổ biến thường sử dụng autoencoder và mạng nơ-ron tích chập. Những công cụ này được huấn luyện trên nhiều ảnh hoặc khung hình video của một người để học diện mạo khuôn mặt họ—hình dạng, biểu cảm và các đặc trưng chính. AI chuyển thông tin đó thành dạng mà nó có thể hiểu, giống như một bản tóm tắt số hoá về khuôn mặt người đó.

Sau đó, nó dùng bản tóm tắt này để sao chép biểu cảm từ người này và áp vào người khác, khiến việc hoán đổi khuôn mặt trông tự nhiên.

Nguồn: Deepfakes Generation and Detection: State-of-the-art, open challenges, countermeasures, and way forward

Với đồng bộ khẩu hình (lip sync), mạng nơ-ron phân tích không chỉ chuyển động miệng mà còn cả tín hiệu âm thanh để căn chỉnh đầu ra video khớp chính xác với lời nói.

Chúng được huấn luyện bằng các bộ dữ liệu gán nhãn, trong đó mỗi khung hình video đi kèm một nhãn âm thanh chỉ rõ âm vị đang được phát âm, cho phép mô hình học mối quan hệ chính xác giữa âm thanh và khẩu hình.

Bằng cách đồng thời phân tích các cặp dữ liệu - nhãn này, mạng học cách tạo ra video mà chuyển động miệng phản chiếu mối quan hệ đã học.

Cuối cùng, nhân bản giọng nói có thể đạt được bằng cách huấn luyện các mô hình tổng hợp lời nói trên các bộ dữ liệu âm thanh lớn đi kèm bản chép lời tương ứng. Những bộ dữ liệu này ghi lại đặc điểm độc đáo của giọng nói một cá nhân (như cao độ, tông, nhịp điệu) theo cấu trúc mà mô hình có thể phân tích.

Học từ các cặp dữ liệu - nhãn này, mô hình tạo ra giọng nói tổng hợp mô phỏng sát các đặc trưng tự nhiên của giọng mục tiêu, bắt chước thuyết phục.

Ứng dụng của Deepfake

Chắc hẳn nhiều người trong chúng ta đã thấy các video tổng hợp có sự góp mặt của diễn viên hay nhân vật công chúng trong tình huống hài hước. Nhưng deepfake còn có thể phục vụ nhiều mục đích khác, kể cả giáo dục và tăng cường khả năng tiếp cận.

Giải trí

Deepfake mang đến cho nhà làm phim các công cụ sáng tạo, cho phép “trẻ hoá” diễn viên hoặc tạo phiên bản lồng tiếng khớp chặt chẽ với diễn xuất gốc.

Một ví dụ đáng chú ý là “The Irishman” (2019) của Martin Scorsese, trong đó Robert De Niro, Al Pacino và Joe Pesci trẻ lại hàng thập kỷ ở các cảnh hồi tưởng. Nhờ vậy, mạch truyện liền mạch mà không cần nhiều diễn viên khác nhau vào vai thời trẻ. Xem giải thích quy trình này trong video này.

Deepfake cũng cách mạng hoá việc tạo nhân vật số bằng cách sinh avatar chân thực cho trò chơi điện tử và thực tế ảo. Khả năng thiết kế nhân vật sống động tương tác tự nhiên với người dùng trong môi trường số đắm chìm mở đường cho trải nghiệm giải trí cá nhân hoá và tương tác hơn. Chẳng hạn, MetaHuman Creator của Epic Games cho phép nhà phát triển xây dựng avatar ảnh thực có chuyển động và phản hồi thuyết phục theo thời gian thực.

Tiềm năng sản xuất nội dung châm biếm của deepfake cũng rất lớn. Trong khi bắt chước truyền thống đã lâu là một phần trong tiết mục của nghệ sĩ hài, deepfake đưa mức độ chi tiết và chân thực lên tầm mới. Các nghệ sĩ như Snicklink và Kyle Dunnigan đang khám phá hướng đi này, đẩy xa ranh giới của hài kịch số.

Giáo dục và khả năng tiếp cận

Một ứng dụng gần đây của công nghệ deepfake đến từ BBC Maestro, ra mắt khoá học viết có sự “tái hiện” Agatha Christie (gần 50 năm sau khi bà qua đời).

Sử dụng hình ảnh tạo bởi AI và mô hình hoá giọng nói dựa trên thư từ, phỏng vấn và bản thảo của bà, khoá học mang đến một phiên bản Christie truyền đạt bài học bằng chính lời của mình. Đây là ví dụ rõ ràng về cách nội dung sinh có thể đưa nhân vật lịch sử vào bối cảnh giáo dục đương đại.

Deepfake cũng hứa hẹn cải thiện khả năng tiếp cận, đặc biệt cho người khiếm khuyết về lời nói. Việc phát triển giọng nói tổng hợp nắm bắt đặc trưng giọng của một người từ các bản ghi âm có thể giúp giao tiếp tự nhiên hơn.

Một ví dụ đáng chú ý là “Project Revoice”, giúp những người mắc bệnh thần kinh vận động (thường dẫn đến mất khả năng nói) lưu giữ và tái tạo giọng nói tự nhiên bằng cách ghi âm sớm.

Những thách thức đạo đức và xã hội của Deepfake

Bất kỳ cuộc thảo luận nào về deepfake cũng sẽ không trọn vẹn nếu không đề cập đến các thách thức mà chúng đặt ra. Những mối quan ngại cấp thiết nhất bao gồm:

• Xói mòn niềm tin
• Gian lận
• Xâm phạm quyền riêng tư

Deepfake có thể làm xói mòn niềm tin công chúng khi ngày càng khó phân biệt nội dung thật và bị thao túng. Khi thông tin sai lệch lan truyền, nó có thể định hình dư luận, hủy hoại danh tiếng hoặc gây hoang mang trong các tình huống quan trọng.

Trong kịch bản tệ nhất, deepfake có thể bị vũ khí hoá để làm bất ổn xã hội bởi các tác nhân xấu, khoét sâu chia rẽ chính trị hoặc thậm chí tác động đến bầu cử bằng cách lan truyền các phát ngôn hay hành động bịa đặt gán cho nhân vật công chúng.

Khả năng giả mạo ai đó một cách thuyết phục bằng deepfake mở ra cơ hội cho các hoạt động gian lận, như lừa đảo tài chính hoặc đánh cắp danh tính. Tội phạm mạng có thể dùng giọng nói nhân bản để đánh lừa người khác chuyển tiền hoặc cấp quyền truy cập dữ liệu nhạy cảm. Điều này đặt ra lo ngại cho các ngành như ngân hàng và an ninh mạng, nơi các phương thức xác minh truyền thống có thể không còn đủ.

Một trong những ứng dụng gây lo ngại nhất là tạo nội dung không có sự đồng thuận, thường nhằm khai thác hoặc đe doạ cá nhân. Nạn nhân có thể bị chèn vào nội dung bịa đặt làm tổn hại danh dự hoặc xâm phạm quyền riêng tư. Điều này nêu bật vấn đề đạo đức lớn, khi việc lạm dụng hình ảnh cá nhân mà không có đồng thuận có thể để lại hệ quả tâm lý và nghề nghiệp lâu dài.

Bất chấp rủi ro gia tăng, luật pháp và quy định về việc tạo và phân phối deepfake vẫn chưa rõ ràng ở nhiều quốc gia. Dù một số nơi đã ban hành quy định chuyên biệt, việc thực thi vẫn khó khăn do công nghệ phát triển nhanh. Thiếu khuôn khổ pháp lý rõ ràng khiến việc truy cứu trách nhiệm trở nên thách thức và đặt ra câu hỏi về cân bằng giữa tự do biểu đạt và ngăn chặn gây hại.

Cách phát hiện Deepfake

Như đã thấy, việc phân biệt nội dung gốc và nội dung bị thao túng trở thành kỹ năng quan trọng trong thời đại AI. Hãy cùng xem các cách tiếp cận khác nhau để nhận biết.

Quan sát bằng mắt thường

Dù ngày càng khó nhận ra, vẫn có những dấu hiệu thao túng mà mắt người có thể phát hiện ở mức độ khác nhau. Chắc hẳn nhiều người đã nghe về ảnh do AI tạo ra trong đó con người bỗng có bốn hay sáu ngón tay, nhưng nhiều dấu hiệu khác thì tinh vi hơn.

Với ảnh, một gợi ý là hiện tượng mờ không tự nhiên hoặc điểm ảnh không nhất quán dọc theo rìa khuôn mặt hay vật thể. Điều này ngụ ý mô hình không tách bạch chính xác pixel nào thuộc khuôn mặt và pixel nào thuộc nền, để lại một “đường may” ít nhiều lộ rõ.

Một manh mối khác có thể là ánh sáng hoặc bóng đổ không khớp với môi trường xung quanh, khiến bức ảnh trông như được ghép.

Ảnh do AI tạo minh họa sự không khớp giữa nguồn sáng và bóng đổ.

Trong video, vấn đề ánh sáng còn dễ nhận thấy hơn nếu hướng nguồn sáng thay đổi đột ngột giữa các khung hình. Ta cũng có thể thấy kiểu chớp mắt bất thường hoặc biểu cảm đơ cứng, không ăn khớp với ngữ cảnh xung quanh, tạo cảm giác “lạ lẫm” mơ hồ. Đôi khi, rìa quanh đầu hoặc tóc nhấp nháy, để lộ video có thể đã bị can thiệp.

Phương pháp kỹ thuật

Phát hiện deepfake thường cần kết hợp các phương pháp dựa trên AI để phân tích sự bất thường ở nét mặt, chuyển động và các tạo tác khác. Một số ví dụ phần mềm chuyên phát hiện nội dung bị thao túng gồm:

• GoogleSynthID
• Truepic
• DuckDuckGoose
• Intel FakeCatcher
• Reality Defender
• Sensity AI
• Deepware Scanner

Mỗi công cụ có cách tiếp cận riêng, nhắm đến trường hợp sử dụng chính của mình. Trong khi các công cụ khác tập trung xác thực nội dung đã được tạo, Google SynthID và Truepic có thể xem là biện pháp phòng ngừa để nhận diện nội dung do AI sinh.

Google SynthID nhúng watermark số không thể nhận biết trực tiếp vào ảnh do AI tạo để đánh dấu nguồn gốc, trong khi Truepic dùng băm mật mã và xác thực dựa trên blockchain để xác minh phương tiện ngay thời điểm chụp.

DuckDuckGoose, chủ yếu phân tích bất nhất trên khuôn mặt, và Intel FakeCatcher, mạnh ở việc phát hiện tín hiệu sinh học như mẫu lưu thông máu, đều hướng tới ứng dụng pháp chứng và nghiên cứu.

Sự khác biệt giữa Reality Defender, Sensity AI và Deepware Scanner, vốn đều dùng mô hình học sâu để phân biệt thật - giả, nằm ở nhóm khách hàng mục tiêu: hai công cụ đầu hỗ trợ tích hợp với công cụ an ninh doanh nghiệp và phù hợp cho nhiệm vụ phát hiện quy mô lớn, còn Deepware Scanner là công cụ gọn nhẹ hướng tới người dùng cá nhân.

Kết luận

Deepfake vừa là bước tiến công nghệ vừa là thách thức đạo đức đáng kể. Chúng mở ra khả năng thú vị trong giải trí, giáo dục và khả năng tiếp cận, song lạm dụng có thể dẫn đến thông tin sai lệch, gian lận và xâm phạm quyền riêng tư.

Trong tương lai, deepfake có thể còn chân thực hơn, đặc biệt trong các ứng dụng thực tế ảo, trong khi công cụ phát hiện sẽ nỗ lực bắt kịp những kỹ thuật thao túng ngày càng tinh vi.

Nếu bạn muốn tìm hiểu thêm về khía cạnh lý thuyết và công nghệ của deepfake, DataCamp có các tài nguyên sau:

• Khoá học: Generative AI Concepts
• Bài viết: Cách học Deep Learning: Hướng dẫn đầy đủ
• Hướng dẫn: Giải mã Mạng sinh đối kháng (GAN)
• Bài viết: Mô hình sinh vs mô hình phân biệt: Khác biệt & trường hợp sử dụng