人工智能不太可能奴役人類，但它可能會接管我們生活的許多方面。 elenabs/iStock 來自 Getty Images
ChatGPT 和類似人工智能係統的興起伴隨著急劇的增長。 對人工智能的焦慮增加。 在過去的幾個月裡，高管和人工智能安全研究人員一直在提供預測，稱為“P（厄運）”，關於人工智能帶來大規模災難的可能性。
2023 年 XNUMX 月，非營利研究和倡導組織人工智能安全中心 (Center for AI Safety) 發布了 一句話陳述：“減輕人工智能帶來的滅絕風險應該與流行病和核戰爭等其他社會規模風險一起成為全球優先事項。” 該聲明由該領域的許多關鍵參與者簽署，包括 OpenAI、Google 和 Anthropic 的領導者，以及兩位所謂的人工智能“教父”： 杰弗里辛頓 和 Yoshua Bengio.
你可能會問，這種存在主義的恐懼應該如何發揮作用。 一個著名的場景是“回形針最大化器” 牛津哲學家闡述的思想實驗 尼克·博斯特倫。 這個想法是，一個負責生產盡可能多的回形針的人工智能係統可能會不遺餘力地尋找原材料，比如摧毀工廠並引發車禍。
A 資源密集型變化較少 有一個人工智能，其任務是為一家受歡迎的餐廳提供預訂，並關閉蜂窩網絡和交通燈，以防止其他顧客獲得餐桌。
辦公用品或晚餐，基本思想是一樣的：人工智能正在迅速成為一種外星智能，擅長實現目標，但很危險，因為它不一定符合其創造者的道德價值觀。 而且，在最極端的版本中，這種爭論演變成對人工智能的明確焦慮 奴役或毀滅人類.
製作回形針的人工智能失控是人工智能末日場景的一種變體。
實際傷害
在過去的幾年裡，我和我的同事們在 麻省大學波士頓應用倫理中心 一直在研究與人工智能的接觸對人們對自己的理解的影響，我相信這些災難性的焦慮是 誇大和誤導.
是的，人工智能創建令人信服的深度偽造視頻和音頻的能力令人恐懼，而且它可能會被惡意的人濫用。 事實上，這種情況已經發生：俄羅斯特工可能試圖讓克里姆林宮批評者難堪 比爾·布勞德 讓他與烏克蘭前總統彼得·波羅申科的化身進行對話。 網絡犯罪分子一直在使用人工智能語音克隆進行各種犯罪——從 高科技搶劫 至 普通騙局.
人工智能決策系統 提供貸款批准和招聘建議 存在算法偏差的風險，因為它們運行的訓練數據和決策模型反映了長期存在的社會偏見。
這些都是大問題，需要政策制定者的關注。 但它們已經存在了一段時間，而且還算不上災難性的。
不在同一個聯賽
人工智能安全中心的聲明將人工智能與流行病和核武器並列為文明的主要風險。 這種比較存在問題。 COVID-19 導致幾乎 全球7萬人死亡，帶來了一個 大規模且持續的心理健康危機 並創建 經濟挑戰，包括長期的供應鏈短缺和失控的通貨膨脹。
核武器可能會殺死 200,000人以上 1945 年在廣島和長崎發生的癌症，在隨後的幾年里奪走了更多人的生命，在冷戰期間引發了數十年的深刻焦慮，並在 1962 年古巴導彈危機期間將世界推向毀滅的邊緣。 改變了國家領導人的算計 關於如何應對國際侵略，例如目前俄羅斯入侵烏克蘭的情況。
人工智能根本沒有能力造成這種傷害。 回形針場景和其他類似場景都是科幻小說。 現有的人工智能應用程序執行特定的任務，而不是做出廣泛的判斷。 該技術是 遠不能做出決定併計劃 為了讓你在餐館裡有一個座位而封鎖交通，或者為了滿足你對回形針的渴望而炸毀一家汽車工廠所必需的目標和次要目標。
該技術不僅缺乏這些場景中涉及的多層判斷的複雜能力，而且還無法自主訪問我們關鍵基礎設施的足夠部分來開始造成這種損害。
成為人類意味著什麼
事實上，使用人工智能存在固有的生存危險，但這種風險是哲學意義上的生存風險，而不是世界末日的風險。 當前形式的人工智能可以改變人們看待自己的方式。 它會降低人們認為對人類至關重要的能力和經驗。
例如，人類是做出判斷的生物。 人們在工作和休閒時間理性地權衡細節並做出日常判斷，決定僱用誰、誰應該獲得貸款、看什麼等等。 但這些判斷越來越多 自動化並外包給算法。 當這種情況發生時，世界不會終結。 但人們會逐漸失去自己做出這些判斷的能力。 人們製作的東西越少，他們製作它們的能力就越差。
或者考慮一下機會在人們生活中的作用。 人類重視偶然的遭遇：偶然遇到一個地方、一個人或一個活動，被吸引進去，並回顧性地欣賞意外在這些有意義的發現中所扮演的角色。 但算法推薦引擎的作用是 減少這種偶然性 並用計劃和預測來代替它。
最後，考慮ChatGPT的寫入能力。 該技術正在消除高等教育中寫作作業的作用。 如果是這樣，教育工作者將失去教學學生的關鍵工具 如何批判性思考.
沒有死而是減少了
所以，不，人工智能不會炸毀世界。 但在各種狹隘的背景下，對它的日益不加批判的接受意味著人類一些最重要技能的逐漸侵蝕。 算法已經在削弱人們做出判斷、享受偶然遭遇和磨練批判性思維的能力。
人類將在這樣的損失中倖存下來。 但在此過程中我們的生存方式將會變得貧乏。 對即將到來的人工智能災難、奇點、天網，或者無論你怎麼想，人們的巨大焦慮掩蓋了這些更微妙的成本。 回想一下 TS 艾略特著名的結束語“空心人”：“這就是世界終結的方式，”他寫道，“不是一聲巨響，而是一聲嗚咽。”
關於作者
尼爾·埃西科維茨，哲學教授兼應用倫理學中心主任， 麻省大學波士頓分校
