即使比17超過2001年，太空服也比這更笨重。 Matthew J. Cotter / Flickr, CC BY-SA
看著一個 50th週年紀念放映 “2001：太空漫遊”，我發現自己，一個 數學家和計算機科學家 他的研究包括與人工智能相關的工作，將故事的未來願景與當今世界進行比較。
這部電影是通過與科幻小說家阿瑟·克拉克和電影導演斯坦利·庫布里克合作完成的，靈感來自克拉克的小說“童年的終結”和他鮮為人知的短篇小說“哨兵”。這是一部引人注目的投機小說作品，它描繪了 - 有時候是有希望的，有時是警示性的 - 外星人接觸，行星際旅行，有意識的機器甚至是人類下一次偉大的進化飛躍的未來。
2018未能達到“2001”願景的最明顯方式是太空旅行。 人們還沒有定期訪問空間站，對幾個月球基地之一進行了不起眼的訪問，也沒有前往其他星球。 但是，當想像人工智能未來的可能性，問題和挑戰時，庫布里克和克拉克就達到了目標。
“2001：太空漫遊”開幕：
{youtube}https://youtu.be/WufKsOhkTL8{/youtube}
電腦可以做什麼？
電影的主要戲劇可以在很多方面被視為人與計算機之間死亡的戰鬥。 “2001”的人工智能體現在HAL中，這是無所不知的計算存在，Discovery One宇宙飛船的大腦 - 也許是電影中最著名的角色。 HAL標誌著計算成就的巔峰：一個自我意識，看似無懈可擊的設備和無處不在的船隻，總是傾聽，總是在觀看。
HAL不僅僅是船員的技術助手，而是用任務指揮官Dave Bowman（第六名船員）的話說。 人類通過與他交談來與HAL互動，並且他以一種測量的男性聲音回答，在嚴肅而沉溺的父母和善意的護士之間。 HAL是Alexa和Siri - 但要好得多。 HAL完全控制了船舶，事實證明，它是唯一了解任務真正目標的機組人員。
機器中的道德規範
電影第三幕的緊張局勢圍繞著鮑曼和他的同事弗蘭克普爾越來越意識到哈爾發生故障，以及哈爾發現這些懷疑。 戴夫和弗蘭克希望在失敗的計算機上拔插頭，而自我意識的HAL想要活下去。 所有人都希望完成任務。
人與機器：
{youtube}https://youtu.be/qDrDUmuUBTo{/youtube}
人類和HAL之間的生死攸關的國際象棋比賽提供了今天關於人類日常生活中人工智能的普及和部署的一些問題的先兆。
首先是人們應該對人工智能機器進行多少控制，而不管系統的“智能”程度如何。 HAL對Discovery的控制就像是未來網絡家庭或無人駕駛汽車的深空版本。 公民， 政策制定者, 專家和研究人員 仍在探索自動化可以 - 或應該 - 的程度 把人帶出循環。 一些考慮因素涉及相對簡單的問題 機器的可靠性，但其他問題更微妙。
計算機器的動作由人類在控制設備的算法中編碼的決策決定。 算法通常具有一些可量化的目標，其中每個行動都應該取得進展 - 就像 贏了一場比賽 跳棋，國際象棋或圍棋。 就像AI系統會分析棋盤上游戲棋子的位置一樣，它也可以 衡量倉庫的效率 or 能源使用數據中心.
但是，當a 道德或道德困境 出現在進球的途中？ 對於自我意識的HAL來說，完成任務 - 並且保持活力 - 在對抗機組人員的生命時會勝出。 無人駕駛汽車怎麼樣？ 是個 自駕車的使命例如，盡快讓乘客從一個地方到另一個地方 - 或者避免殺死行人？ 當有人走在自動駕駛汽車前面時，這些目標就會發生衝突。 這可能感覺像是一個明顯的“選擇”來編程，但如果汽車需要怎麼辦 在兩種不同的場景之間“選擇”，每一個都會導致人類死亡？
被監視中
在一個經典場景中，戴夫和弗蘭克進入空間站的一部分，他們認為HAL無法聽到他們討論他們對HAL功能的懷疑以及他控制船隻和指導任務的能力。 他們提出了關閉他的想法。 他們很少知道HAL的相機可以看到它們：計算機正在通過pod窗口讀取他們的嘴唇，並了解他們的計劃。
HAL讀嘴唇：
{youtube}https://youtu.be/1s-PiIbzbhw{/youtube}
在現代世界中，每天都有一個版本的場景發生。 通過我們，我們大多數人都會受到持續監控 幾乎永遠在手機上 或公司和政府 監控現實世界和在線活動。 私人和公共之間的界限已經並且繼續變得越來越模糊。
電影中角色的關係讓我思考了很多人和機器如何共存，甚至一起進化。 通過電影的大部分內容，甚至人類也會溫和地互相交談，沒有太多的語氣或情感 - 因為他們可能會與機器交談，或者機器可能會與他們交談。 HAL著名的死亡場景 - 戴夫有條不紊地斷開其邏輯聯繫 - 讓我想知道智能機器是否會被賦予與人權相當的東西。
克拉克相信人類在地球上的時間很可能只是一個“簡短的休息處“而且物種的成熟和進化必然會使人們遠遠超出這個星球。 “2001”以樂觀的方式結束，通過“星際之門”向人類發起衝擊，以紀念種族的重生。 實際上要做到這一點需要人們弄清楚如何充分利用他們正在建造的機器和設備，並確保我們不讓這些機器控制我們。
關於作者
Daniel N. Rockmore，數學，計算科學和計算機科學系教授， 達特茅斯學院（Dartmouth College）
相關書籍
at InnerSelf 市場和亞馬遜
