未來的歷史學家很可能將 2023 年視為人工智慧 (AI) 出現的里程碑。但未來是否會證明 烏托邦, 世界末日 or 中間某個地方 有人猜測。
二月份，ChatGPT 創下了最快應用程式的記錄 100萬用戶。隨後，Google、亞馬遜、Meta 和其他大型科技公司推出了類似的「大語言」人工智慧模型，這些模型看起來有望改變教育、醫療保健和許多其他知識密集領域。
然而，5 月的一項研究強調了人工智慧的潛在危害 不祥的聲明 由主要研究人員簽署：
減輕人工智慧帶來的滅絕風險應該與流行病和核戰等其他社會規模風險一起成為全球優先事項。
27月，針對人們對人工智慧風險日益增長的擔憂，XNUMX個國家（包括英國、美國、印度、中國和歐盟）在英國布萊奇利公園舉行的首屆人工智慧安全峰會上承諾合作，以確保人工智慧的安全發展為了 所有人的利益.
為了實現這一目標，研究人員重點關注 人工智慧對齊 ——即如何確保人工智慧模式符合人類的價值觀、偏好和目標。但有一個問題——人工智慧所謂的“黑暗的秘密」：大型模型非常複雜，就像一個黑盒子，任何人都不可能完全理解。
人工智慧的黑盒子問題
儘管人工智慧系統的透明度和可解釋性 重要研究目標，這樣的努力似乎不太可能跟上創新的瘋狂步伐。
黑盒子的比喻解釋了為什麼人們對人工智慧的信念五花八門。預測範圍從烏托邦到滅絕，許多人甚至相信通用人工智慧 (AGI) 很快就會出現 獲得知覺.
但這種不確定性使問題變得更加複雜。人工智慧的協調應該是一條雙向道路：我們不僅要確保人工智慧模型與人類意圖一致，還要確保我們對人工智慧的信念是準確的。
這是因為我們非常擅長創造符合這些信念的未來，即使我們沒有意識到它們。
所謂“預期效應”，或自我實現的預言，在心理學中是眾所周知的。研究表明，操縱使用者的信念不僅會影響他們的行為方式 與人工智慧互動，但是人工智慧如何 適應用戶.
換句話說，我們的信念（有意識或無意識）如何影響人工智慧可能會增加任何結果的可能性，包括災難性的結果。
人工智慧、運算、邏輯和算術
我們需要更深入地探索以了解人工智慧的基礎——就像愛麗絲夢遊仙境一樣，走進兔子洞，看看它會把我們帶到哪裡。
首先，什麼是人工智慧？它在計算機上運行，自動計算也是如此。從它的起源來看，“感知” – 神經生理學家於 1943 年用數學方法定義的人工神經元 沃倫·麥卡洛克 和邏輯學家 沃爾特·皮茨 – 人工智慧與認知科學、神經科學和電腦科學交織在一起。
這種收斂 頭腦, 大腦 和 機 人們普遍認為，由於人工智慧是由機器進行計算，因此自然智能（心智）必定是由大腦進行計算。
但什麼是計算呢？ 19 世紀末，數學家 理查戴德金德 和 朱塞佩·皮亞諾 提出了一組公理 用邏輯定義算術，並激發了將所有數學建立在安全基礎上的嘗試 正式基礎.
雖然邏輯學家 庫爾特·哥德爾 後來證明這個目標是 無法實現的，他的工作是數學家（和密碼破解者）的起點 阿蘭·圖靈. 他的 ”圖靈機”，一個抽象設備能夠 通用計算，是計算機科學的基礎。
感知的深層結構
因此，計算是基於數學思想的，這些思想可以追溯到邏輯中定義算術的努力。但我們的算術知識是存在的 先於邏輯。如果我們想了解人工智慧的基礎，我們需要更進一步去問算術本身從何而來。
我和我的同事最近證明算術是基於“深層結構”的感知。這種結構就像有色眼鏡一樣，以特定的方式塑造我們的感知，使我們對世界的體驗變得有序且易於管理。
算術由一組元素（數字）和運算（加法、乘法）組成，這些運算將元素對組合成另一個元素。我們問：在所有可能性中，為什麼數字是元素，而加法和乘法是運算？
我們展示了 數學證明 當假設感知的深層結構限制了可能性時，算術就是結果。換句話說，當我們的大腦透過塑造我們對物理世界的體驗的「有色眼鏡」來觀察抽象世界時，它「看到」了數字和算術。
因為算術是數學的基礎，這意味著數學是心靈的反映——用符號來表達其基本性質和創造力。
儘管感知的深層結構與其他動物相同，因此是演化的產物，但只有人類發明了數學。這是我們最親密的創造——並且透過促進人工智慧的發展，也許對我們最重要。
哥白尼式的心靈革命
我們的帳戶 算術的起源 與18世紀哲學家康德的觀點是一致的。他認為，我們對世界的認識是由對空間和時間的「純粹直覺」構成的，這種直覺先於感官體驗而存在——類似於我們永遠無法摘除的有色眼鏡。
康德聲稱他的 哲學 是一場「哥白尼式的心靈革命」。康德認為，就像古代天文學家認為太陽繞著地球旋轉一樣，因為他們不知道地球的運動，而哲學家則相信所有知識都源自於地球的運動。 感官體驗 （例如約翰·洛克和大衛·休謨）忽略了心靈如何塑造感知。
儘管康德的觀點是由 他那個時代的自然科學，他們證明了 對當代心理學有影響.
認識算術是一門 我們感知的自然結果，因此基於生物學，顯示我們對計算的理解存在類似的康德式轉變。
在數學真理的抽象領域中，計算並不是「外在」的，也不是與我們分離的，而是我們思維本質中固有的。頭腦不僅僅是計算；大腦不是計算機。相反，計算——人工智慧的基礎——就像數學一樣，是思維本質和創造力的象徵性表達。
普羅米修斯之火
這對人工智慧有何影響？首先，人工智慧不是思想，永遠不會有知覺。我們可以透過將思想上傳到雲端來超越我們的生物本質並實現永生的想法只是 幻想.
然而，如果人工智慧所依據的思維原則為全人類（也可能有其他生物）所共享，那麼就有可能超越我們個人思維的限制。
因為計算是通用的，所以我們可以在日益互聯的虛擬和物理世界中自由地模擬和創建我們選擇的任何結果。這樣，AI才真正成為我們的 普羅米修斯之火，從眾神那裡偷來的給人類的禮物，如 希臘神話.
作為一個全球文明，我們可能正處於一個轉捩點。 AI不會變得有知覺並決定 殺掉我們所有人。但我們非常有能力用它來「啟示」自己——期望可以創造現實。
確保人工智慧一致性、安全性和安保性的努力至關重要，但如果我們缺乏意識和集體智慧，這可能還不夠。像愛麗絲一樣，我們需要從夢中醒來，認識我們思想的現實和力量。
