人工智能現在可以模仿人類行為,很快就會變得非常危險

人工智能現在可以模仿人類行為,很快就會變得非常危險這張臉只是一個計算機位組件嗎? PHOTOCREO Michal Bednarek / Shutterstock.com

當人工智能係統開始變得富有創造力時,他們就可以創造出偉大的東西 - 而且可怕。 舉一個例如,讓人工智能的程序 網絡用戶撰寫音樂 以及一個 虛擬約翰塞巴斯蒂安巴赫 通過在一個程序中輸入註釋來生成類似巴赫的和聲來匹配它們。

由Google運營,應用程序 德魯 讚美 因為具有開創性和玩樂的樂趣。 它也吸引了 批評並且引起了對人工智能危險的擔憂。

我的研究如何 新興技術影響著人們的生活 告訴我,這些問題超出了公認的大問題 是否算法 真的可以 創造音樂 或一般的藝術。 有些抱怨似乎很小,但實際上並非如此,就像谷歌人工智能的觀察結果一樣 打破基本規則 音樂作曲。

事實上,讓計算機模仿真實人的行為的努力可能會令人困惑並且可能有害。

模仿技術

谷歌的節目分析了巴赫音樂作品的306中的音符,發現了旋律和提供和聲的音符之間的關係。 由於巴赫遵循嚴格的組成規則,該計劃有效地學習了這些規則,因此當用戶提供自己的筆記時它可以應用它們。

Google Doodle團隊解釋了巴赫計劃。

巴赫應用程序本身是新的,但基礎技術不是。 訓練的算法 識別模式 和做 概率決定 已經存在了很長時間。 其中一些算法非常複雜,以至於人們 不要總是明白 他們如何做出決定或產生特定的結果。

人工智能係統並不完美 - 許多都依賴於此 數據不具代表性 整個人口,或者是 受人類偏見的影響。 這還不完全清楚 誰可能有法律責任 當AI系統出錯或導致問題時。

然而,現在,人工智能技術已經發展到足以能夠逼近個人的寫作或說話風格,甚至面部表情。 這並不總是壞事:一個相當簡單的AI給了斯蒂芬霍金 溝通能力 通過預測他將使用最多的單詞,更有效地與他人合作。

模仿人類聲音的更複雜的節目 幫助殘疾人 - 但也可以用來欺騙聽眾。 例如,製造商 琴鳥一個模仿語音的節目,發布了一個 模擬對話 巴拉克奧巴馬,唐納德特朗普和希拉里克林頓之間。 這可能聽起來很真實,但這種交流從未發生過。

從好到壞

2月2019,非盈利公司OpenAI創建了一個生成文本的程序 與文本幾乎無法區分 由人寫的。 它可以“寫”一種風格的演講 約翰·F·肯尼迪,JRR托爾金在“指環王“還是學生寫作 關於美國內戰的學校作業.

OpenAI軟件生成的文本非常可信,公司已經選擇了 不要釋放 程序本身。

類似的技術可以模擬照片和視頻。 例如,在2018早期,演員兼電影製作人喬丹·皮爾創作了一段視頻,該視頻似乎顯示了美國前總統巴拉克·奧巴馬所說的話 奧巴馬從未真正說過的話 警告公眾這些技術帶來的危險。

小心你認為的視頻。

在早期的2019中,a 假裸照 美國眾議員Alexandria Ocasio-Cortez在網上流傳。 製作視頻, 通常被稱為 ”deepfakes,“預計將是 日益 在競選活動中。

國會議員 已開始研究這個問題 在2020選舉之前。 美國國防部正在教導公眾 如何發現篡改視頻 和音頻。 新聞機構喜歡 路透社 正在開始訓練記者發現深水偽造。

但是,在我看來,一個更大的問題依然存在:當AI技術變得更加複雜時,用戶可能無法快速學習以區分假內容。 例如,隨著公眾開始意識到深度偽造,人工智能已被用於更高級的欺騙。 現在有可以生成的程序 假臉 - 假數字指紋,有效地創建製造整個人所需的信息 - 至少在公司或政府記錄中。

機器不斷學習

目前,這些技術中存在足夠的潛在錯誤,使人們有機會檢測數字製作。 谷歌的巴赫作曲家 犯了一些錯誤 專家可以檢測到。 例如,當我嘗試它時,程序允許我進入 平行的五分之一,巴赫的音樂間隔 刻意避免。 該應用程序也 打破了音樂規則 通過在錯誤的鍵中協調旋律來對抗。 同樣,OpenAI的文本生成程序偶爾會寫出像“火災發生在水下“在他們的背景下沒有任何意義。

隨著開發人員對他們的創作工作,這些錯誤將變得更加罕見。 實際上,人工智能技術將不斷發展和學習。 隨著AI計劃的幫助,改進的績效有可能帶來許多社會福利 - 包括更好的醫療保健 使醫學實踐民主化.

讓研究人員和公司自由探索,以便從人工智能係統中尋求這些積極的成就,意味著開闢更多先進方法來製造欺騙和其他社會問題的風險。 嚴重限制AI研究可以 遏制這種進步。 但是提供有益的技術 成長的空間 不小的代價 - 濫用的可能性,無論是製作不准確的“巴赫式”音樂還是欺騙數百萬,都可能以人們無法預料的方式成長。談話

關於作者

Ana Santos Rutschman,法律助理教授, 美國聖路易斯大學

本文重新發表 談話 根據知識共享許可。 閱讀 原創文章.

相關書籍

{amazonWS:searchindex = Books; keywords = artificial intelligence; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

關注InnerSelf

Facebook的圖標Twitter的圖標RSS圖標

通過電子郵件獲取最新信息

{emailcloak = OFF}