Internet đang tràn ngập những “deepfake”, những nội dung âm thanh, hình ảnh hoặc video được tạo ra bằng các công cụ dựa trên mô hình AI, trong đó mọi người xuất hiện như thể họ đang làm hoặc nói điều gì đó mà thực tế họ không làm, ở một nơi mà họ không có mặt, hoặc thay đổi hoàn toàn ngoại hình của họ. Một số nội dung deepfake liên quan đến việc chỉnh sửa ảnh khiêu dâm, nơi các bức ảnh bị thay đổi để miêu tả ai đó không mặc đồ. Những nội dung deepfake khác được sử dụng để lừa đảo mọi người, hoặc làm tổn hại danh tiếng của chính trị gia và những người nổi tiếng khác.
Sự phát triển của AI đồng nghĩa với việc, chỉ cần vài thao tác trên bàn phím máy tính là sẽ có thể tạo ra một deepfake chân thực. Chính phủ nhiều quốc gia đang lo lắng, và đang có động thái cố gắng chống lại xu hướng công nghệ này, nhưng đây là một cuộc chiến tương đối khó giành phần thắng.
Theo dữ liệu từ công ty xác minh danh tính Signicat, số lượng các nỗ lực lừa đảo sử dụng deepfake đã tăng hơn 20 lần trong khoảng thời gian 3 năm qua.
Vào ngày 28/4 vừa rồi, Hạ viện Mỹ đã thông qua Đạo luật mang tên “Take It Down” để hình sự hóa việc tạo sinh và truyền bá những nội dung khiêu dâm do AI tạo ra mà không có sự đồng ý, còn được gọi là deepfake để trả đũa một cá nhân. Dự luật này nhận được sự ủng hộ của đệ nhất phu nhân Melania Trump, và tổng thống Donald Trump dự kiến sẽ ký duyệt để ban hành luật.
Sự phát triển của AI đồng nghĩa với việc, chỉ cần vài thao tác trên bàn phím máy tính là sẽ có thể tạo ra một deepfake chân thực. Chính phủ nhiều quốc gia đang lo lắng, và đang có động thái cố gắng chống lại xu hướng công nghệ này, nhưng đây là một cuộc chiến tương đối khó giành phần thắng.
Theo dữ liệu từ công ty xác minh danh tính Signicat, số lượng các nỗ lực lừa đảo sử dụng deepfake đã tăng hơn 20 lần trong khoảng thời gian 3 năm qua.
Các nhà quản lý và lập pháp đối phó thế nào với Deepfake?
Vào ngày 28/4 vừa rồi, Hạ viện Mỹ đã thông qua Đạo luật mang tên “Take It Down” để hình sự hóa việc tạo sinh và truyền bá những nội dung khiêu dâm do AI tạo ra mà không có sự đồng ý, còn được gọi là deepfake để trả đũa một cá nhân. Dự luật này nhận được sự ủng hộ của đệ nhất phu nhân Melania Trump, và tổng thống Donald Trump dự kiến sẽ ký duyệt để ban hành luật.
Cùng trong ngày hôm đó, cơ quan đại diện cho quyền trẻ em của Anh Quốc đã lên tiếng kêu gọi chính phủ Anh cấm các ứng dụng chỉnh sửa ảnh khiêu dâm có sẵn rộng rãi trên internet.
Năm ngoái, Ủy ban Truyền thông Liên bang (FCC) đã tuyên bố, kể từ nay, việc các công ty sử dụng giọng nói do AI tạo ra trong các cuộc gọi tự động (robocall) sẽ là hành vi phạm pháp. Lệnh cấm này được đưa ra hai ngày sau khi FCC ban hành lệnh đóng cửa đối với công ty đã tạo ra âm thanh deepfake, giả mạo tổng thống Joe Biden. Khi đó, cư dân tại New Hampshire đã nhận được một cuộc gọi robocall trước thềm bầu cử sơ bộ tổng thống của bang, trong đó có giọng nói giống như của ông Biden, khuyến khích họ ở nhà và “giữ phiếu bầu cho cuộc bầu cử tháng 11”:
Đạo luật AI của Liên minh Châu Âu yêu cầu các nền tảng phải gắn nhãn đối với nội dung deepfake. Trung Quốc cũng đã thực hiện luật tương tự vào năm 2023.
Deepfake còn xuất hiện ở những đâu?
Các hình ảnh deepfake khiêu dâm với gương mặt của ngôi sao nhạc pop Taylor Swift đã được chia sẻ rộng rãi trên mạng xã hội vào tháng 1/2024, gây ra sự phẫn nộ từ phía người hâm mộ và thể hiện sự quan ngại từ Nhà Trắng.
Trong cuộc bầu cử tổng thống Mỹ hồi cuối năm 2024, Elon Musk đã chia sẻ một video tranh cử, được tạo ra bằng deepfake, có gương mặt của ứng viên đảng Dân chủ Kamala Harris, hoàn toàn không được dán nhãn là nội dung AI tạo ra.
Giọng nói được AI chỉnh sửa trong video với nhân vật có gương mặt của bà Harris, gọi tổng thống Joe Biden là già yếu và tuyên bố rằng bà "không biết gì về việc điều hành đất nước". Video này đã thu hút hàng chục triệu lượt xem. Phản ứng lại sự cố này, Thống đốc California Gavin Newsom đã hứa sẽ cấm deepfake mang nội dung chính trị, được biến đổi bằng công cụ kỹ thuật số, và đã ký một luật để thực hiện điều đó vào tháng 9.
Quảng cáo
Video deepfake được tạo ra như thế nào?
Chúng thường được tạo ra bằng một thuật toán AI được huấn luyện để nhận dạng các mẫu trong các footage video có thật của một người cụ thể, thông qua quá trình deep learning. Sau đó, có thể thay thế một yếu tố của một video, chẳng hạn như khuôn mặt của người nào đó khác, vào một nội dung khác mà trông cực kỳ thuyết phục, giống thật và dễ lừa người xem.
Những tác vụ tạo nội dung deepfake này có thể lừa được rất nhiều người, khi sử dụng kết hợp với công nghệ nhân bản giọng nói, chia nhỏ một đoạn âm thanh ai đó đang nói thành các đoạn nửa âm tiết, có thể được lắp ráp lại thành những từ mới, khiến người xem lầm tưởng là nhân vật trong clip thực sự đã nói ra điều đó.
Deepfake đã trở nên phổ biến như thế nào?
Ban đầu, công nghệ này là lĩnh vực của các nhà nghiên cứu và học giả hàn lâm, để tìm ra tiềm năng của công nghệ trí tuệ nhân tạo. Tuy nhiên, tạp chí Motherboard, một ấn phẩm của Vice, đưa tin vào năm 2017 rằng, một người dùng Reddit có tên "deepfakes" đã phát triển một thuật toán để tạo video giả mạo gương mặt con người bằng mã nguồn mở. Reddit đã khóa tài khoản người dùng này, nhưng việc ứng dụng công cụ này vẫn lan rộng. Ban đầu, deepfake yêu cầu video hiện có và màn trình diễn giọng nói thực tế, cùng với các kỹ năng chỉnh sửa chuyên nghiệp.
Các hệ thống AI tạo sinh ngày nay cho phép người dùng tạo ra hình ảnh và video thuyết phục từ các gợi ý bằng văn bản đơn giản. Yêu cầu máy tính tạo một video đưa lời vào miệng ai đó và nó sẽ xuất hiện.
Quảng cáo
Làm thế nào để biết được đó có phải là deepfake?
Các tác phẩm giả mạo kỹ thuật số ngày càng khó phát hiện khi các công ty AI áp dụng các công cụ mới cho lượng lớn tài liệu có sẵn trên web, từ YouTube đến thư viện hình ảnh và video lưu trữ.
Vẫn có thể có những dấu hiệu tiết lộ rằng một hình ảnh hoặc video được tạo bằng AI, từ việc thiếu chân thừa tay cho đến việc bàn tay có 6, 7 ngón. Có thể có sự không nhất quán về màu sắc giữa các bộ phận đã chỉnh sửa và chưa chỉnh sửa của một hình ảnh. Với video, cũng có thể có sự khác biệt giữa lời nói và cử động của miệng. AI có thể gặp khó khăn trong việc kết xuất các chi tiết tinh tế của các yếu tố như tóc, miệng và bóng tối, và các cạnh của đối tượng đôi khi có thể bị gãy và pixel hóa.
Nhưng tất cả điều này có thể thay đổi khi các mô hình cơ bản được cải thiện.
Còn những ví dụ nào khác về deepfake?
Những kẻ kích động cư dân mạng ở Trung Quốc đã lan truyền các hình ảnh được chỉnh sửa về cháy rừng trên đảo Maui, Hawaii vào tháng 8/2023 để lan truyền lời khẳng định rằng, chúng là hậu quả do một “vũ khí thời tiết” do Mỹ bí mật thử nghiệm gây ra. Vào tháng 5/2023, cổ phiếu của Mỹ đã giảm tạm thời sau khi một hình ảnh xuất hiện trên mạng cho thấy Lầu Năm Góc, căn cứ của Bộ Quốc phòng Mỹ bốc cháy. Các chuyên gia nói rằng bức tranh giả mạo có dấu hiệu được tạo bằng AI.
Vào tháng 2 năm đó, một đoạn âm thanh giả mạo xuất hiện với giọng nói như ứng cử viên tổng thống Nigeria, ông Atiku Abubakar đang âm mưu gian lận bỏ phiếu trong cuộc bầu cử diễn ra vào tháng đó. Năm 2021, một video dài một phút được đăng trên MXH thì mô tả tổng thống Ukraine Volodymyr Zelenskiy ra lệnh cho binh lính của mình hạ vũ khí và đầu hàng quân đội Nga.
Các nội dung deepfake khác thì vô hại hơn, mua vui cho mọi người, chẳng hạn như những deepfake về ngôi sao bóng đá Cristiano Ronaldo hát và đọc thơ bằng tiếng Ả Rập.
Nguy hiểm ở đây là gì?
Lo ngại lớn nhất luôn là, deepfake cuối cùng sẽ trở nên thuyết phục và giống thật đến mức không thể phân biệt được đâu là nội dung thật và đâu là giả tạo. Hãy tưởng tượng những kẻ lừa đảo thao túng giá cổ phiếu bằng cách sản xuất các video giả mạo của giám đốc điều hành đưa ra các thông báo cập nhật về công ty, hoặc các video giả mạo về binh lính phạm tội chiến tranh. Các chính trị gia, nhà lãnh đạo doanh nghiệp và người nổi tiếng đặc biệt có nguy cơ, vì có rất nhiều bản ghi lại của họ.
Công nghệ này tạo điều kiện cho việc thực hiện nội dung khiêu dâm để tấn công cá nhân, ngay cả khi không có ảnh hoặc video khỏa thân nào thực tế tồn tại, thường nhắm tới đối tượng phụ nữ. Khi một video trở nên thịnh hành trên internet, gần như không thể ngăn chặn sự lan truyền của nó. Báo cáo đưa ra hồi tháng 4 của cơ quan đại diện về quyền trẻ em của Vương quốc Anh đã nêu bật nỗi sợ hãi ngày càng tăng của trẻ em về việc trở thành nạn nhân của deepfake khiêu dâm.
Một mối quan ngại khác là việc nâng cao nhận thức về deepfake sẽ khiến những tội phạm bị tình nghi, đã bị ghi hình hoặc thu âm, trong đó họ đã làm hoặc nói điều gì đó bất hợp pháp, dễ dàng phủ nhận chúng. Họ hoàn toàn có thể tuyên bố rằng, bằng chứng chống lại họ là giả mạo. Một số người hiện đang sử dụng biện pháp bào chữa, rằng bằng chứng trước tòa là do deepfake tạo ra trước thẩm phán và bồi thẩm đoàn tại tòa án.
Có thể làm gì để ngăn chặn deepfake?
Hình thái máy học tạo ra deepfake khó có thể đảo ngược để phát hiện nội dung được chỉnh sửa. Tuy nhiên, một số startup như Sensity AI có trụ sở tại Hà Lan và Sentinel có trụ sở tại Estonia đang phát triển công nghệ phát hiện, tương tự là nhiều công ty công nghệ lớn của Mỹ.
Các tập đoàn như Microsoft đã cam kết nhúng hình mờ kỹ thuật số vào các hình ảnh được tạo bằng các công cụ AI của họ để phân biệt chúng là giả mạo. OpenAI, nhà phát triển ChatGPT, đã phát triển công nghệ phát hiện hình ảnh do AI tạo ra, cũng như một cách để đánh dấu văn bản - mặc dù nó chưa phát hành phần sau vì cho rằng những kẻ xấu có thể dễ dàng vượt qua được điều đó.
Theo Bloomberg
