Deepfake: Ác mộng mới của các chiến dịch bầu cử

Trong năm mà trên 4 tỉ người ở hơn 40 quốc gia đi bầu, các đảng phái, đối thủ chính trị đang tìm tới một chiến thuật thao túng người dân và lá phiếu mới và nguy hiểm hơn bao giờ hết: deepfake - nội dung video hay audio do AI tạo, giả mà như thật.

Theo từ điển Oxford, deepfake là một đoạn ghi âm hay video mà gương mặt và giọng nói của một người được thay bằng hình ảnh và tiếng nói của người khác, theo cách khiến mọi thứ trông có vẻ thật. 

So với đợt bầu cử 2016 hay 2020, tin giả hay thông tin sai lệch ngày nay đã lên một tầm cao mới, khi việc tạo ra những bức ảnh, video hoặc đoạn âm thanh giả không cần phải có thời gian, kỹ thuật và tiền bạc, mà ai cũng có thể làm được, nhờ sự trỗi dậy của AI tạo sinh.

Theo hãng xác minh dữ liệu Sumsub, số lượng deepfake trên toàn thế giới đã tăng gấp 10 lần chỉ từ năm 2022 đến 2023, riêng khu vực châu Á Thái Bình Dương tăng 1.530%.

Đáng chú ý, Simon Chesterman, giám đốc cấp cao bộ phận quản trị AI của Viện nghiên cứu AI Singapore, cảnh báo "châu Á chưa sẵn sàng đối phó với nạn deepfake trong bầu cử", xét về công nghệ, quy định quản lý và nhận thức của cử tri.

Muôn hình muôn dạng

Trước ngày bầu cử sơ bộ "siêu thứ ba" 5-3 của Mỹ, Gail Huntley, một cử tri ở New Hampshire, nhận được điện thoại. Đầu dây bên kia là cuộc gọi ghi âm sẵn, với giọng quen thuộc mà bà nhận ra ngay - Joe Biden. 

Nữ cử tri 73 tuổi đã định sẽ bỏ phiếu cho Biden, nên rất bất ngờ khi nghe chính ông khuyên bà đừng làm thế mà hãy chờ tới tháng 11 hãy bỏ phiếu trong cuộc bầu cử chính thức, vì "bỏ phiếu vào thứ ba tuần này chỉ tạo điều kiện cho Đảng Cộng hòa bầu Donald Trump lần nữa", bà kể với The Guardian.

Huntley vẫn đủ tỉnh táo để biết cuộc gọi là giả. Bà cho rằng câu từ của ông Biden đã bị tách khỏi ngữ cảnh, vì thế rất sốc khi biết rằng không có lời nào là thật - đương kim tổng thống Mỹ chưa nói thế bao giờ, tất cả là deepfake.

Mỹ đã cấm các cuộc gọi từ động phát lời nhắn do AI tạo. Nhưng cử tri ở nhiều nước khác đang rối bời, không biết đâu mà lần khi deepfake tràn lan trước ngày bỏ phiếu.

Ở Anh, sự kiện deepfake chính thức len vào bầu cử được cho là đoạn ghi âm 25 giây được đăng trên X (Twitter) hồi tháng 10-2023, trong đó thủ lĩnh Đảng Lao động đối lập Keir Starmer liên tục rủa xả một nhân viên dưới quyền. 

Tài khoản @Leo_Hutz, mới lập hồi tháng 1-2023, đăng đoạn clip kèm lời bình: "Tôi có được đoạn ghi âm này... kẻ bắt nạt ghê tởm này lại đang sắp thành thủ tướng kế tiếp của chúng ta".

Theo Bloomberg ngày 15-3, Facebook, YouTube, Snapchat và TikTok đã gỡ nội dung liên quan tới đoạn ghi âm này, trong khi X từ chối yêu cầu xóa bài của Đảng Lao động. Các nguồn thạo tin cho biết X đòi phải có bằng chứng rõ ràng hơn chứng minh đấy là giả, thay vì chỉ lời khẳng định "đó không phải tôi" từ phía ông Starmer.

Ở Ấn, việc dùng AI để lôi kéo lá phiếu từ cử tri ở các bang lớn đã có từ năm ngoái. Đó là tháng 11, trước cuộc bầu ở bang Telengana, một đoạn video lan truyền trên X cho thấy KT Rama Rao - cựu lãnh đạo Đảng Bharat Rashtra Samiti cầm quyền - kêu gọi cử tri bỏ phiếu cho Đảng Quốc đại đối lập. 

Theo South China Morning Post, đoạn video gây tranh cãi đã được nửa triệu view trên tài khoản X của Đảng Quốc đại. Đảng Bharat Rashtra Samiti đã thất bại trong cuộc bầu cử đó.

Ở Pakistan, ngay trước ngày tổng tuyển cử 8-2, một video deepfake lan truyền trên mạng xã hội, trong đó cựu thủ tướng Imran Khan kêu gọi tẩy chay cuộc bầu cử. Theo The Guardian, deepfake cũng đã được sử dụng trong các cuộc bầu cử ở Slovakia, Đài Loan và Indonesia.

Tai hại thế nào

Bằng cách "nhào nặn" các ứng viên theo cả hai hướng - mềm mỏng hóa hoặc bôi nhọ, deepfake có thể khiến cử tri bị thu hút lẫn quyết định xa lánh một ứng cử viên, thậm chí không đi bỏ phiếu.

Thông tin thật giả lẫn lộn khiến cử tri không biết thông tin chính xác hay các ý kiến xác đáng về ứng viên mà họ định đặt niềm tin ở đâu. Tương tự, cử tri có thể "mất cảm tình" với một ứng viên nếu bỗng dưng có scandal nổ ra, trước khi biết đó là giả.

Adam Meyers, giám đốc bộ phận chống thông tin thù địch của hãng an ninh mạng CrowdStrike, cho rằng deepfake có thể khiến người xem sa vào thiên kiến xác nhận - chỉ tin những gì muốn tin. 

"Ngay cả khi trong thâm tâm họ biết điều đó không đúng, nếu (deepfake) đó là thông điệp họ muốn nghe và thứ họ muốn tin vào thì họ sẽ không bỏ qua" - Meyers nói với CNBC.

Có thể lấy ví dụ từ Bangladesh. Năm ngoái, một video có cảnh Rumeen Farhana, một chính khách của đảng đối lập, mặc bikini, khiến quốc gia đa số là Hồi giáo này phẫn nộ. "Người ta tin bất cứ cái gì thấy trên Facebook" - bà Farhana, người luôn mạnh mẽ chỉ trích đảng cầm quyền, nói với AP.

Deepfake cũng có thể làm xói mòn niềm tin của công chúng vào những gì mắt thấy tai nghe. Chẳng hạn, một video giả mạo ghi lại hành vi sai trái trong cuộc bầu cử như nhồi phiếu (bỏ thêm phiếu, số phiếu nhiều hơn số cử tri đi bầu), có thể khiến mọi người mất niềm tin vào tính hợp lệ của cuộc bầu cử.

Một kịch bản tồi tệ

Deepfake còn có thể ảnh hưởng các cuộc bầu cử lớn tới mức nào? Suy đoán chi bằng thử nghiệm. 

Mới đây, The Future US, một tổ chức phi lợi nhuận có trụ sở ở Washington, đã tiến hành một cuộc "tập trận" đặc biệt: thay vì ứng phó với một cuộc tấn công đơn lẻ của đối tượng thù địch, hàng chục cựu quan chức cấp cao của Hoa Kỳ, lãnh đạo các tổ chức và giám đốc điều hành từ các công ty công nghệ đã tập dượt trước nguy cơ cuộc bầu cử năm 2024 hỗn loạn vì AI.

Theo NBC News, kịch bản của cuộc đánh trận giả có thên "The Deepfake Dilemma" (Thế lưỡng nan của deepfake) như sau: vào ngày bầu cử, các cử tri lớn tuổi ở quận Maricopa (Arizona) bỗng dưng nhận được điện thoại thông báo các điểm bỏ phiếu phải đóng cửa vì có đe dọa từ các nhóm dân quân. 

Trong khi đó, ở Miami (Florida), một loạt ảnh và video trên mạng xã hội cho thấy các nhân viên phòng phiếu đang đổ bỏ phiếu bầu. Tất cả đều là sản phẩm của deepfake. Nhưng khi chính quyền địa phương và liên bang nhận ra, thông tin giả mạo này đã lan khắp cả nước.

Tình huống giả định này đặt ra nhiều vấn đề. Các quan chức liên bang và địa phương - và ngành công nghệ - có sẵn sàng chống lại những thông tin sai lệch trong và ngoài nước nhằm làm suy yếu niềm tin của công chúng vào kết quả bầu cử hay không? 

Chính phủ liên bang có khả năng phát hiện AI deepfake không? Nhà Trắng hoặc văn phòng bầu cử tiểu bang có nên tuyên bố công khai rằng thông tin lan truyền là sai sự thật không?

Trong một buổi họp mô phỏng "phòng tình huống" của Nhà Trắng, những người tham gia diễn tập - trong các vai giám đốc FBI, CIA và Bộ An ninh nội địa - bắt đầu xem qua các báo cáo từ Arizona và Florida, cũng như nhiều mối đe dọa chưa được xác nhận khác, bao gồm một vụ đột nhập vào trung tâm xử lý phiếu bầu qua thư. 

Theo một số người trong cuộc thuật lại với NBC News, sau khi trao đổi với lãnh đạo các công ty công nghệ, những người vào vai "quan chức chính phủ" vẫn lúng túng trong mọi khâu - xác định giả thật, ai đã phát tán deepfake và các cơ quan chính phủ nên ứng phó thế nào.

Những người tham gia diễn tập do dự về việc ai sẽ thông báo công khai cho cử tri biết địa điểm bỏ phiếu của họ an toàn và lá phiếu của họ được bảo mật. Các quan chức liên bang lo ngại rằng bất kỳ tuyên bố công khai nào cũng sẽ bị coi là nỗ lực nhằm tăng cơ hội tái đắc cử của Tổng thống Joe Biden. 

"Có rất nhiều tranh cãi và bất định về việc Nhà Trắng và tổng thống có nên can thiệp không" - cựu quan chức Bộ An ninh nội địa Miles Taylor, người hỗ trợ The Future US tổ chức diễn tập, nói.

Một trong những tranh luận gay gắt nhất trong phòng họp giả định đó là chuyện nói rõ trắng đen là nghĩa vụ của ai - những quan chức bầu cử cấp bang hay các công ty tư nhân hay Nhà Trắng. "Đây là việc chúng tôi dự trù sẽ thật sự xảy ra trong bầu cử thật" - ông nói.

Thực tế có khi sẽ còn tệ hơn diễn tập. Theo Taylor, cuộc diễn tập được tiến hành trong nỗ lực khuyến khích các lãnh đạo công nghệ và quan chức chính phủ tăng cường đối thoại và liên lạc, trong khi thực tế là các nền tảng mạng xã hội đã cắt giảm nhân sự phụ trách quản trị nội dung sai lệch liên quan tới bầu cử, và "không có dấu hiệu cho thấy các hãng công nghệ sẽ hợp tác chặt chẽ với chính phủ".

Tương tự, theo các cựu quan chức và chuyên gia tham gia diễn tập, chính quyền các bang thiếu nguồn lực để phát hiện deepfake hoặc nhanh chóng "dập" chúng bằng thông tin chính xác.

Tính chất vừa mới mẻ vừa phức tạp của công nghệ deepfake khiến việc truy nguồn tạo và phát tán các nội dung sai lệch này rất khó.

Giới chuyên gia cho rằng các chính phủ và công ty công nghệ chưa đủ khả năng ngăn ngừa vấn nạn này, thậm chí còn chưa hành động đủ nhanh và mạnh mẽ để ứng phó, theo AP.

Tháng 9-2023, dự luật đề xuất cấm sử dụng nội dung lừa dối do AI tạo làm ảnh hưởng tới bầu cử được trình lên Quốc hội Mỹ. Trong khi chờ đợi, một số bang đã có các quy định riêng để đối phó với nạn deepfake.

Gần đây nhất, hôm 13-3 Nghị viện châu Âu phê chuẩn Đạo luật AI, cấm việc dùng AI tạo hình ảnh gương mặt từ nguồn là các video giám sát. EU cũng kêu gọi 8 công ty công nghệ lớn - trong đó có Google, Facebook và X - thông tin chi tiết cách các hãng này phát hiện và xử lý nội dung deepfake.

Báo The Guardian bình luận EU có thể vận dụng đạo luật mới để yêu cầu các hãng công nghệ phải loại bỏ tận gốc hình ảnh, video và audio giả mạo.

Anh cũng vừa thông qua Đạo luật an toàn trực tuyến, tiến tới quản lý một số khía cạnh của AI, chẳng hạn hình sự hóa hành vi chia sẻ deepfake mà không có sự đồng thuận của đối tượng liên quan.