研究人員如何為即將到來的Deepfake宣傳浪潮做準備

How Researchers Are Preparing For The Coming Wave of Deepfake Propaganda
AI驅動的檢測器是發現AI生成的假視頻的最佳工具。
華盛頓郵報通過蓋蒂圖片社

一名調查記者從一位匿名舉報人那裡收到一個視頻。 它顯示了承認非法活動的總統候選人。 但是這部影片真實嗎? 如果是這樣,那將是一個巨大的新聞-一生的獨家消息-並可能完全扭轉即將到來的選舉。 但是記者通過專門的工具運行該視頻,告訴她該視頻不是看上去的樣子。 實際上,這是“deepfake”,將人工智能與 深入學習.

全世界的記者很快就會使用這樣的工具。 幾年後,每個人甚至都可以使用這種工具在其社交媒體源中根除假冒內容。

As 研究人員 誰在研究Deepfake檢測 並為記者開發工具,我們看到了這些工具的未來。 但是,它們並不能解決我們所有的問題,它們只是更廣泛的反虛假信息鬥爭中的一部分。

Deepfake的問題

大多數人都知道您無法相信看到的一切。 在過去的幾十年中,精明的新聞消費者已經習慣於看到使用照片編輯軟件處理的圖像。 視頻是另一個故事。 好萊塢導演可以在特效上花費數百萬美元,以構成一個逼真的場景。 但是,使用Deepfake,擁有幾千美元的計算機設備並花費數週時間的業餘愛好者可以使生活變得幾乎真實。

Deepfake使人們可以進入從未有過的電影場景– 認為湯姆·克魯斯扮演鋼鐵俠 –娛樂視頻。 不幸的是,這也使得創建 未經同意的色情 被描繪的人。 到目前為止,濫用深造技術時,這些人,幾乎是所有婦女,都是最大的受害者。

Deepfake還可用於製作政治領導人錄像帶,說他們從未說過的話。 比利時社會黨發布了低質量的非偽造影片,但仍然是偽造的 特朗普總統侮辱比利時,這引起了足夠的反響,顯示出更高質量的深造品的潛在風險。


加州大學伯克利分校的Hany Farid解釋瞭如何製作假貨。

 從InnerSelf獲取最新信息


也許 最可怕的,它們可以用來創建 對真實視頻內容的懷疑,暗示它們可能是假貨。

考慮到這些風險,能夠檢測出深層造假並對其進行清晰標記將非常有價值。 這樣可以確保假視頻不會欺騙公眾,並且可以將真實視頻視為真實視頻。

發現假貨

Deepfake檢測作為研究領域已經開始有點 三年前。 早期工作的重點是檢測視頻中的可見問題,例如 沒有眨眼的假貨。 隨著時間的流逝, 假貨變得更好 模仿真實的視頻,使人和檢測工具變得更難發現。

深度檢測檢測研究分為兩大類。 首先涉及 看人的行為 在視頻中。 假設您有很多有關名人的視頻,例如奧巴馬總統。 人工智能可以使用該視頻來學習他的模式,從手勢到講話停頓。 然後可以 看著他的假貨 並註意它與那些模式不匹配的地方。 即使視頻質量本質上是完美的,這種方法也可以工作。


SRI International的亞倫·勞森(Aaron Lawson)介紹了一種檢測偽造品的方法。

其他研究人員 包括我們的團隊,一直專注於 差異所有的假貨都有 與真實視頻相比Deepfake視頻通常是通過合併單獨生成的幀以形成視頻而創建的。 考慮到這一點,我們的團隊的方法會從視頻的各個幀中的面部提取基本數據,然後通過並發幀集對其進行跟踪。 這使我們能夠檢測從一幀到另一幀的信息流中的不一致。 對於偽造的音頻檢測系統,我們也使用類似的方法。

這些細微的細節很難讓人看到,但表明偽造品並不完全 完美卻。 這樣的偵探可以為任何人工作,而不僅僅是少數世界領導人。 最後,可能需要兩種類型的Deepfake檢測器。

最新的檢測系統在專門為評估工具而收集的視頻上表現良好。 不幸的是,即使是最好的型號 在網上找到的視頻效果很差。 下一步的關鍵是使這些工具更強大和有用。

誰應該使用Deepfake檢測器?

理想情況下,所有人都可以使用Deepfake驗證工具。 但是,這項技術尚處於發展初期。 研究人員需要改進工具並保護它們免受黑客攻擊,然後再廣泛發布它們。

但是,與此同時,想要欺騙公眾的任何人都可以使用製作深造工具。 坐在場外不是一個選擇。 對於我們的團隊而言,正確的平衡是與記者合作,因為他們是防止誤傳信息的第一道防線。

在發布故事之前,記者需要驗證信息。 他們已經有了經過實踐檢驗的方法,例如與消息來源核對並讓多個人來驗證關鍵事實。 因此,通過將工具投入他們的手中,我們為他們提供了更多信息,並且我們知道他們不會僅僅依靠該技術,因為它可能會出錯。

探測器能贏得軍備競賽嗎?

看到來自 Facebook 亦於 Microsoft微軟 投資技術以了解和檢測深造。 該領域需要更多的研究以跟上Deepfake技術的發展速度。

記者和社交媒體平台還需要弄清楚如何在檢測到深造假時向人們發出警告。 研究表明 人們記得謊言,但事實並非如此。 假視頻也一樣嗎? 僅在標題中加上“ Deepfake”可能不足以抵消某些虛假信息。

Deepfake在這裡停留。 隨著人工智能變得越來越強大,管理虛假信息和保護公眾將比以往更具挑戰性。 我們是一個不斷發展的研究社區的一員,該社區正在應對這種威脅,而在其中,檢測只是第一步。The Conversation

關於作者

John Sohrawardi,計算機與信息科學博士學位, 羅徹斯特理工學院 和計算機安全教授Matthew Wright, 羅徹斯特理工學院

本文重新發表 談話 根據知識共享許可。 閱讀 原版的 文章.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

關注InnerSelf

facebook-icontwitter-iconrss-icon

 通過電子郵件獲取最新信息

{emailcloak = OFF}

編者的話

InnerSelf通訊:11月29,2020
by InnerSelf員工
本週,我們專注於以不同的眼光看待事物……以不同的眼光,開放的胸懷和開放的心態看待事物。
為什麼我應該忽略COVID-19以及為什麼我不會
by 羅伯特詹寧斯,InnerSelf.com
我的妻子瑪麗和我是混血兒。 她是加拿大人,我是美國人。 在過去的15年中,我們在佛羅里達州度過了冬天,在新斯科舍省度過了夏天。
InnerSelf通訊:11月15,2020
by InnerSelf員工
本週,我們思考一個問題:“我們從這裡去哪裡?” 就像任何通過儀式一樣,無論是畢業,結婚,生子,關鍵選舉還是喪失(或發現)婚姻……
美國:搭便車去世界和星星
by InnerSelf.com的Marie T Russell和Robert Jennings
好吧,美國總統大選現在已經過去了,現在該進行盤點了。 我們必須在年輕人與老年人,民主黨與共和黨,自由派和保守派之間找到共同點,才能真正使……
InnerSelf通訊:十月25,2020
by InnerSelf員工
InnerSelf網站的“口號”或副標題是“新態度---新可能性”,而這恰恰是本週新聞的主題。 我們的文章和作者的目的是……