深度造假和政治運動的不穩定組合是我們保持警惕的充分理由。 肖恩·安東尼·埃迪創意/E+來自蓋蒂圖片社
想像一個 十月驚喜 獨一無二：距離 5 年 2024 月 XNUMX 日僅一周，一段視頻記錄揭示了喬·拜登和弗拉基米爾·澤倫斯基之間的秘密會面。 美國和烏克蘭總統同意根據“特別緊急成員協議”立即讓烏克蘭加入北約，並準備對俄羅斯進行核武器打擊。 突然間，世界正處於世界末日的邊緣。
雖然記者可以指出 不存在這樣的協議 社交媒體用戶可能會注意到視頻中奇怪的類似視頻遊戲的品質，其他人可能會覺得 他們最擔心的事情 已被證實。 當選舉日到來時，這些憂心忡忡的公民可能會讓視頻影響他們的選票，而沒有意識到他們剛剛被深度偽造的情況所操縱——這一事件從未真正發生過。
情境深度偽造代表了下一階段的技術 已經 動搖了觀眾對現實的認知。 在我們的研究中 DeFake 項目，我的同事們 羅徹斯特理工學院是， 密西西比大學, 密歇根州立大學 和我 研究深度造假是如何製造的，以及選民可以採取哪些措施來保護自己免受深度造假的侵害。
想像從未發生過的事件
當有人使用人工智能工具時，尤其是使用人工智能工具時，就會產生深度偽造品 深入學習，操縱或生成 線人臉 語音 或者——隨著 大型語言模型 点讚 ChatGPT - 會話語言。 這些可以組合起來形成“情境深度偽造”。
情景深度偽造的基本理念和技術與任何其他深度偽造相同，但具有更大膽的野心：操縱真實事件或憑空捏造事件。 示例包括以下描述 唐納德·特朗普的罪犯步行 和 特朗普擁抱安東尼·福奇，這兩種情況都沒有發生。 擁抱鏡頭是由 Twitter帳戶 與總統競選有關 特朗普的競爭對手羅恩·德桑蒂斯。 一個 攻擊廣告 共和黨全國委員會發布的針對喬·拜登 2024 年競選活動的內容是 完全由人工智能製作.
在 DeFake 項目，我們的 研究發現 深度贗品（包括情景）通常是由某些因素的混合造成的 將一張媒體與另一張媒體相加; 使用視頻 對圖像進行動畫處理或更改另一個視頻，被稱為木偶戲； 創造出一種媒體，通常使用 生成AI; 或這些技術的某種組合。
需要明確的是，許多情境深度偽造都是出於無辜的目的。 例如， 無限奧德賽雜誌 從電影中製作假劇照 從未生產過 or 不可能存在。 但即使是無辜的深度假貨也會有理由停下來，就像近乎可信的假照片描繪了 阿波羅登月作為電影製作.
深度造假選舉
現在將自己置於試圖影響即將到來的選舉的人的位置。 您可能想要創造哪些可能的情況？
對於初學者來說，你是否想讓投票傾向於或遠離特定結果很重要。 也許你會描繪一位候選人英勇地把行人拉出超速行駛的汽車，或者相反，做一些冒犯或犯罪的事情。 Deepfake 場景的格式也很重要。 它可以不是視頻，而是一張照片，可能具有模擬智能手機相機或偽造的新聞機構標誌的模糊和角度。
您的目標受眾將是關鍵。 您可能不會針對廣大選民或政黨的基礎，而是針對關鍵投票區的陰謀論者。 您可以將候選人或其家庭成員描繪成參與某項活動 撒旦儀式，參加一個節日 排他性且有爭議的 波希米亞樹叢，或者有一個 與外星人的秘密會面.
如果你有野心和能力，你甚至可以嘗試深度偽造選舉本身。 2023年XNUMX月，俄羅斯電視台和廣播電台遭到黑客攻擊 廣播全面動員令 由 俄羅斯總統弗拉基米爾·普京的深度偽造。 雖然這在美國大選中更難做到，但原則上任何新聞媒體都可能被黑客攻擊，播放其主播的深度造假內容，宣布錯誤的結果或候選人讓步。
捍衛現實
有多種技術和心理方法可以檢測和防禦情境深度偽造。
在技術方面，所有深度偽造品都包含一些證明其真實性質的證據。 其中一些跡象可以通過人眼看到——例如過於光滑的皮膚或奇怪的燈光或建築——而另一些則可能是肉眼無法看到的。 只能由深度造假人工智能檢測到.
我們正在建設 防偽的探測器使用 AI 來捕捉 Deepfake 的明顯跡象，我們正在努力為 2024 年大選及時做好準備。 但即使像我們這樣足夠強大的深度造假探測器在選舉日之前無法部署，作為選民，您也可以使用一些心理工具來識別深度造假：背景知識、好奇心和健康的懷疑態度。
如果您遇到有關某個人、地點或事件的媒體內容看起來不尋常，請相信您的背景知識。 例如，在一個 最近五角大樓發生火災的騙局，所示的建築物看起來更像是方形而不是五邊形，這可能是一個贈品。
但是，盡量不要完全依賴您的背景知識，這可能是錯誤的或不完整的。 永遠不要害怕從可靠的來源了解更多信息，例如經過事實核查的新聞報導、經過同行評審的學術文章或對有資格的專家的採訪。
此外，請注意，深度假貨可用於利用您的身份 傾向於相信 關於一個人、一個地方或一個事件。 處理這個問題的最好方法之一就是簡單地 意識到你的偏見 對任何似乎證實這些觀點的媒體內容都要保持警惕。
即使有可能創造出完美的深度偽造場景，其主題的可信度可能仍然是他們的致命弱點。 因此，無論有沒有技術解決方案，你仍然有能力保護選舉免受虛假事件的影響。
關於作者
克里斯托弗·施瓦茨, 計算安全博士後研究員, 羅徹斯特理工學院
相關書籍：
論暴政：二十世紀的二十個教訓
通過蒂莫西·斯奈德
這本書提供了維護和捍衛民主的歷史教訓，包括制度的重要性、公民個人的作用以及威權主義的危險。
我們的時代就是現在：力量、目標和為公平美國而戰
通過斯泰西艾布拉姆斯
作者是一名政治家和活動家，分享了她對更具包容性和公正的民主的願景，並提供了政治參與和選民動員的實用策略。
民主如何消亡
史蒂文·萊維茨基和丹尼爾·齊布拉特
這本書研究了民主崩潰的警告信號和原因，借鑒了來自世界各地的案例研究，以提供有關如何維護民主的見解。
人民，不：反民粹主義簡史
托馬斯·弗蘭克
作者提供了美國民粹主義運動的歷史，並批評了他認為扼殺了民主改革和進步的“反民粹主義”意識形態。
一本書或更少的民主：它是如何運作的，為什麼它不起作用，以及為什麼修復它比你想像的要容易
通過大衛利特
這本書概述了民主，包括它的長處和短處，並提出了改革建議，使該制度更具響應性和問責制。
