這張臉只是一個計算機位組件嗎？ PHOTOCREO Michal Bednarek / Shutterstock.com
當人工智能係統開始變得富有創造力時，他們就可以創造出偉大的東西 - 而且可怕。 舉一個例如，讓人工智能的程序 網絡用戶撰寫音樂 以及一個 虛擬約翰塞巴斯蒂安巴赫 通過在一個程序中輸入註釋來生成類似巴赫的和聲來匹配它們。
由Google運營，應用程序 德魯 大 讚美 因為具有開創性和玩樂的樂趣。 它也吸引了 批評並且引起了對人工智能危險的擔憂。
我的研究如何 新興技術影響著人們的生活 告訴我，這些問題超出了公認的大問題 是否算法 真的可以 創造音樂 或一般的藝術。 有些抱怨似乎很小，但實際上並非如此，就像谷歌人工智能的觀察結果一樣 打破基本規則 音樂作曲。
事實上，讓計算機模仿真實人的行為的努力可能會令人困惑並且可能有害。
模仿技術
谷歌的節目分析了巴赫音樂作品的306中的音符，發現了旋律和提供和聲的音符之間的關係。 由於巴赫遵循嚴格的組成規則，該計劃有效地學習了這些規則，因此當用戶提供自己的筆記時它可以應用它們。
Google Doodle團隊解釋了巴赫計劃。
{youtube}XBfYPp6KF2g{/youtube}
巴赫應用程序本身是新的，但基礎技術不是。 訓練的算法 識別模式 和做 概率決定 已經存在了很長時間。 其中一些算法非常複雜，以至於人們 不要總是明白 他們如何做出決定或產生特定的結果。
人工智能係統並不完美 - 許多都依賴於此 數據不具代表性 整個人口，或者是 受人類偏見的影響。 這還不完全清楚 誰可能有法律責任 當AI系統出錯或導致問題時。
然而，現在，人工智能技術已經發展到足以能夠逼近個人的寫作或說話風格，甚至面部表情。 這並不總是壞事：一個相當簡單的AI給了斯蒂芬霍金 溝通能力 通過預測他將使用最多的單詞，更有效地與他人合作。
模仿人類聲音的更複雜的節目 幫助殘疾人 - 但也可以用來欺騙聽眾。 例如，製造商 琴鳥一個模仿語音的節目，發布了一個 模擬對話 巴拉克奧巴馬，唐納德特朗普和希拉里克林頓之間。 這可能聽起來很真實，但這種交流從未發生過。
從好到壞
2月2019，非盈利公司OpenAI創建了一個生成文本的程序 與文本幾乎無法區分 由人寫的。 它可以“寫”一種風格的演講 約翰·F·肯尼迪，JRR托爾金在“指環王“還是學生寫作 關於美國內戰的學校作業.
OpenAI軟件生成的文本非常可信，公司已經選擇了 不要釋放 程序本身。
類似的技術可以模擬照片和視頻。 例如，在2018早期，演員兼電影製作人喬丹·皮爾創作了一段視頻，該視頻似乎顯示了美國前總統巴拉克·奧巴馬所說的話 奧巴馬從未真正說過的話 警告公眾這些技術帶來的危險。
小心你認為的視頻。
{youtube}cQ54GDm1eL0{/youtube}
在早期的2019中，a 假裸照 美國眾議員Alexandria Ocasio-Cortez在網上流傳。 製作視頻， 通常被稱為 ”deepfakes，“預計將是 日益 舊 在競選活動中。
國會議員 已開始研究這個問題 在2020選舉之前。 美國國防部正在教導公眾 如何發現篡改視頻 和音頻。 新聞機構喜歡 路透社 正在開始訓練記者發現深水偽造。
但是，在我看來，一個更大的問題依然存在：當AI技術變得更加複雜時，用戶可能無法快速學習以區分假內容。 例如，隨著公眾開始意識到深度偽造，人工智能已被用於更高級的欺騙。 現在有可以生成的程序 假臉 和 假數字指紋，有效地創建製造整個人所需的信息 - 至少在公司或政府記錄中。
機器不斷學習
目前，這些技術中存在足夠的潛在錯誤，使人們有機會檢測數字製作。 谷歌的巴赫作曲家 犯了一些錯誤 專家可以檢測到。 例如，當我嘗試它時，程序允許我進入 平行的五分之一，巴赫的音樂間隔 刻意避免。 該應用程序也 打破了音樂規則 通過在錯誤的鍵中協調旋律來對抗。 同樣，OpenAI的文本生成程序偶爾會寫出像“火災發生在水下“在他們的背景下沒有任何意義。
隨著開發人員對他們的創作工作，這些錯誤將變得更加罕見。 實際上，人工智能技術將不斷發展和學習。 隨著AI計劃的幫助，改進的績效有可能帶來許多社會福利 - 包括更好的醫療保健 使醫學實踐民主化.
讓研究人員和公司自由探索，以便從人工智能係統中尋求這些積極的成就，意味著開闢更多先進方法來製造欺騙和其他社會問題的風險。 嚴重限制AI研究可以 遏制這種進步。 但是提供有益的技術 成長的空間 不小的代價 - 濫用的可能性，無論是製作不准確的“巴赫式”音樂還是欺騙數百萬，都可能以人們無法預料的方式成長。
關於作者
Ana Santos Rutschman，法律助理教授， 美國聖路易斯大學
相關書籍
at InnerSelf 市場和亞馬遜
