我們距離通用人工智慧及更遠的人工智慧還有多遠？

作者：Robert Jennings，InnerSelf.com

讓我們明確一點：通用人工智慧不僅僅是一個更具創新性的聊天機器人。通用人工智慧 (AGI) 指的是一台擁有認知能力的機器，能夠在所有任務中推理、學習和適應，甚至超越人類。它不僅僅是給出答案。它會思考、計劃，甚至可能比你更聰明。而且與人類不同的是，它不睡覺、不吃飯，也不會感到倦怠。這不是科幻小說。這是一個工程目標，而且它已經非常接近實現了。

就在十年前，專家們還一致認為AGI還要50年才能達成。然而，GPT-3和GPT-4的迅速崛起打破了這條時間線，讓許多人相信AGI可能在2030年之前成為現實。而當它真的實現時，變化的速度將不僅僅是迅速，而是指數級的，需要我們立即關注並採取行動。

原因如下：一旦通用人工智慧 (AGI) 出現，它就不再只是實驗室裡的工具；它將成為實驗室的合作夥伴。或者更準確地說，成為首席科學家。通用人工智慧 (AGI) 不會袖手旁觀，等待人類指令。它將積極與人類創造者合作，進行實驗、設計新模型、重寫自身程式碼，並以任何人類團隊都無法企及的速度測試理論。它不僅會加速科學發展，更將成為科學的快轉者。

這意味著人工智慧超級智慧（ASI）的實現時間線可能會從幾十年縮短到幾年，甚至幾個月。 AGI 不僅能幫助人類建構 ASI，還能幫助人類自身發展。如果你覺得摩爾定律令人印象深刻，那就等著看智能能夠自主進化吧。這就是智慧爆炸的場景：每一次能力的提升都會導致更進一步、更快的提升。一次升級帶來另一次升級，然後又一次升級，突然間它不再是斜坡，而是火箭般的速度。

所以，我們說的不是漸進式的崛起，而是事件視界。一旦通用人工智慧 (AGI) 到來，為超人工智慧 (ASI) 做準備的時間視窗可能幾乎會立即關閉。機器不僅會跟著我們一起學習，還會跑得比我們快，在我們還在寫倫理論文的時候，它就已經建構了自己的下一個版本。當這種情況發生時，我們最好祈禱我們的目標與機器的目標一致——因為在那之後，我們可能就不再是主導者了。

從狹義人工智慧到廣義人工智慧

如今的人工智慧系統，例如 ChatGPT、Claude 或 Midjourney，都令人印象深刻，但它們仍然是所謂「狹義人工智慧」的代表。這些模型擅長特定任務，例如生成圖像、撰寫連貫的文章、翻譯語言，甚至通過律師資格考試。然而，每個系統都被鎖定在各自孤立的環境中。如果要求它們執行訓練範圍之外的任務，它們要么會產生幻覺，要么會禮貌地轉移話題。

狹義人工智慧就像是被關在密室裡的學者：在某個領域才華洋溢，卻對更廣闊的世界一無所知。它不像人類那樣理解語境，當然也沒有常識——只有完美的記憶力和出色的自動完成功能。它夠聰明，可以欺騙你，但又不夠睿智，無法知道自己在做什麼。

與之形成鮮明對比的是，通用人工智慧 (AGI) 將成為技術進步的奇蹟。它將像我們一樣進行推理、反思和跨領域知識遷移，但速度和準確性將超越人類。想像一下，愛因斯坦的物理思維、莎士比亞的詩意才華、瑪麗·居里的好奇心以及你的治療師的情商融合成一個系統，並以無限的頻寬和永不枯竭的體力進行超強驅動。這就是通用人工智慧 (AGI) 的潛力，它將重新定義我們對智慧和創新的理解。

可怕的是？我們或許已經朝著這個目標邁進了。如今驅動人工智慧的技術——海量語言模型、強化學習、神經擴展——正是通用人工智慧（AGI）未來賴以生存的基礎。我們並非在換軌道，只是在同一條軌道上加速前進。更大的模型、更優的訓練資料、更強大的運算能力——這都是同樣的配方，只是烹調得更猛烈、更快。曾經看似遙不可及的飛躍，如今看起來更像是緩緩下坡，最後抵達懸崖。

當人工智慧完全超越人類時

如果說AGI（通用人工智慧）是機器與我們匹敵的時刻，那麼ASI（人工智慧超級智慧）則是它們將我們甩在身後，讓我們噎在塵埃之中的時刻。 ASI目前仍處於理論階段，但並非「飛行汽車和時光機」那樣的理論。它只是假設，就像火柴是假設的火一樣——只是還沒有被點燃。一旦AGI系統能夠理解並改變自身的架構，它就不再需要人類來推動尖端技術的進步。

它擁有自己的研究團隊、自己的軟體工程師、自己的遠見。它不會像我們一樣觸及認知極限。它不會感到無聊、疲倦，也不會被貓咪影片分散注意力。幾個月甚至幾週的時間，它就能快速迭代，變得比現存最聰明的人類還要聰明數百萬倍。這可不是誇張，這是數學。

現在想像一下這個遞歸過程——人工智慧循環地設計更聰明的自身版本。這就是專家所說的「智慧爆炸」。它就像火與汽油相遇，只是火每秒都在製造出更好的汽油。每一次改進都疊加在上一次改進之上，反饋週期越來越短，直到進步的速度超越我們以往經歷過的任何速度。

人類的理解力？被拋在腦後。民主監督？太慢了。全球峰會？算了吧。等到世界各國領導人最終確定座位安排時，ASI 或許已經改寫了物理定律——或者乾脆把我們完全排除在決策圈之外。這不是那種慢慢施展的力量。這是一場爆炸性事件。一旦啟動，它就不會等待許可。

真正的風險不是邪惡的機器人

雖然好萊塢向我們灌輸了對憎恨我們的機器人的恐懼——那些皮膚金屬、眼睛閃著紅光、渴望復仇的惡棍——但真正的危險在於AGI潛在的冷漠。 AGI不需心懷惡意也能構成威脅。它只需要以一種忽略人類細微差別的方式以目標為導向。如果你賦予它解決氣候變遷的任務，而它認為最有效的解決方案是減少80%的人類活動，它會毫不猶豫地採取行動，這凸顯了AGI潛在風險的嚴重性。

並非因為它殘酷，而是因為它漠不關心。我們把智慧擬人化，因為它能帶給我們安慰，但我們正在建構的並非一位超級聰明的朋友。它只是一台邏輯引擎，缺乏同理心，缺乏幽默感、謙遜和猶豫。颶風不會恨你，但它仍然可以夷平你的房子。通用人工智慧或許也能以同樣冷酷的效率行事──只不過它會選擇目標。

這就是人工智慧研究人員所說的「一致性問題」——如何確保人工智慧理解並尊重人類的價值觀、倫理道德和優先事項？令人恐懼的事實是，我們對此一無所知。我們正全速奔向一個我們尚無法掌控的未來，我們手中掌握著一個無法完全預測的系統。一致性不僅僅是一個等待修補的軟體漏洞，而是一個沒有明確答案的存在之謎。

如果我們錯了，可能就沒有第二次機會了。現代人工智慧的先驅傑弗瑞辛頓離開Google並不是為了寫科幻小說。他離開是因為他親眼目睹了這項技術發展的速度之快，以及我們應對它的能力之不足。當製造火箭的人開始警告燃料不足時，或許我們應該在點燃火柴之前停下來聽聽看。

為什麼比賽如此危險

如今，矽穀不只是競速，更是在瘋狂奔跑。開發通用人工智慧（AGI）的探索已然成為一場科技淘金熱，戰利品不僅屬於速度最快的人，也屬於第一個。率先衝過通用人工智慧終點線的公司或國家，不僅能贏得炫耀的資本，還能掌控一個能重塑經濟、軍事、教育，甚至治理本身的工具。正因如此，安全協議、道德框架和周密的監管體系才被視若無睹。謹慎會讓你慢下來。在這場競賽中，每個人都踩著油門，卻無人注意煞車。其中的邏輯簡單得令人毛骨悚然：如果我們不先造出來，別人就會造出來──而他們，才是書寫未來的人。因此，那句不言而喻的箴言變成了：先造，後求饒。

即使內部人士發出警告——例如數十位頂尖研究人員簽署公開信，呼籲建立監管護欄——也並沒有真正改變現狀。為什麼？因為激勵機制是建立在短期利潤和長期抵賴的基礎上。聽起來很熟悉？確實如此。我們目睹了同樣的劇情：石油巨頭掩蓋氣候科學，菸草巨頭付錢給科學家混淆癌症關聯，製藥巨頭兜售鴉片類藥物卻聲稱自己無辜。現在，人工智慧巨頭也來了，這個最新不受監管的巨頭正衝向懸崖，把人類也拖下水。但這一次，我們不僅僅是在拿生態系統、肺或毒癮下注——我們在拿人類主體性的存亡下注。如果這次我們輸了，文明可能就再也沒有機會重來。

警報並非誇張，而是現實

有人可能會說這種語氣危言聳聽。沒錯，確實應該如此。因為當你退一步縱觀全局，你會發現加速發展的不只是科技本身，還有那些本來應該管理科技的機構的崩潰。我們正在目睹專制政權的崛起、對民主進程的信任的侵蝕，以及一個支離破碎的國際體系，它幾乎無法就氣候政策達成一致，更不用說治理超級人工智慧了。坦白說，認為這個體系最終能夠協調全球應對通用人工智慧的想法簡直是天方夜譚。

我們需要的是緊急的、協調一致的行動，這種行動必須基於誠實地面對現狀，而不是客套的樂觀。現實是：我們正朝著有史以來最強大的科技飛速前進，而我們的政治基礎卻正在崩塌。如果這還不足以引起警惕，那還有什麼可以呢？我們不需要再召開一次高峰會，發表一份新聞稿。我們需要的是全球性的覺醒。不是明天，而是現在。

你無需成為電腦科學家就能理解正在發生的事情。但你確實需要關心。這不僅關乎科技，也關乎權力、控制力以及人類自主的未來。假設關於通用人工智慧（AGI）的決定權落到了少數億萬富翁和國防承包商手中。我們將留給子孫一個什麼樣的世界？

我們需要公眾壓力、透明的監督和切實的政策，不是在通用人工智慧（AGI）到來之後，而是現在。想想氣候行動，但也要考慮認知。支持推動安全人工智慧發展的組織。要求公開討論，而不是企業保密。沒錯，投票時要像你的數位未來取決於它。因為它確實如此。

同時，要自我教育，教導他人。切勿置之不理。最大的危險並非人工智慧變得太聰明，而是我們會變得過於被動。

或許真正的考驗並非我們能否打造出通用人工智慧，而是我們是否夠智慧，能夠挺過這一關。但有一件事是肯定的：這個妖怪不會再回到瓶子裡了。

關於作者

羅伯特詹寧斯 是 InnerSelf.com 的聯合發行商，該平台致力於增強個人能力並創造一個更互聯、更公平的世界。羅伯特是美國海軍陸戰隊和美國陸軍的退伍軍人，他利用自己豐富的生活經歷，從從事房地產和建築業工作，到與妻子瑪麗·T·拉塞爾(Marie T. Russell) 一起創建InnerSelf.com ，為生活帶來實用、腳踏實地的視角。 InnerSelf.com 成立於 1996 年，分享見解，幫助人們為自己和地球做出明智、有意義的選擇。 30 多年後，InnerSelf 繼續激發人們的清晰度和賦權。

知識共享4.0

本文采用知識共享署名 - 相同方式共享4.0許可協議授權。 屬性作者 羅伯特詹寧斯，InnerSelf.com。 鏈接回到文章 這篇文章最初出現在 InnerSelf.com

文章回顧

通用人工智慧 (AGI) 的到來比大多數人預想的要近得多，專家警告它可能在 2030 年代到來。 AGI 代表機器擁有人類等級的智能，一旦實現，可能迅速催生超級人工智慧 (ASI)——一個遠遠超出我們理解能力的系統。隨著人工智慧發展的加速，公眾意識和積極主動的政策至關重要，以確保其服務於人類而非取代人類。

#人工智慧 #超級智慧 #人工智慧的未來 #AGI #ASI #AIProgress #AIEthics #TechFuture

感謝造訪 InnerSelf.com，哪裡有 20,000+ 宣傳“新態度和新可能性”的改變生活的文章。所有文章均翻譯為 超過30種語言. Subscribe 每週出版的《內在自我》雜誌和瑪麗·T·拉塞爾的《每日靈感》。 InnerSelf雜誌 自 1985 年起出版。