人工智能係統如何威脅民主

: By 史蒂芬·費爾德斯坦

感謝造訪 InnerSelf.com，哪裡有 20,000+ 宣傳“新態度和新可能性”的改變生活的文章。所有文章均翻譯為 超過30種語言. 訂閱每週出版的《內在自我》雜誌和瑪麗·T·拉塞爾的《每日靈感》。 InnerSelf雜誌 自 1985 年起出版。

美國科技巨頭微軟已經與一所中國軍事大學合作開發人工智能係統這可能會增強政府監督和審查能力。二美國參議員公開譴責夥伴關係，但是什麼中國國防科技大學來自微軟的想法不是唯一的問題。

As 我的研究表明，數字壓制的出現正在深刻地影響著公民與國家之間的關係。新技術正在為政府提供前所未有的監控，跟踪和監視個人的能力。甚至民主國家的政府也有著強烈的傳統法律規則發現自己很想濫用這些新能力.

與各國不負責任的機構和頻繁的侵犯人權行為，AI系統很可能會造成更大的傷害。中國是一個突出的例子。它的領導者熱情地接受了人工智能技術，並建立了世界的技術最複雜的監督狀態 in 新疆省，跟踪市民的日常運動和智能手機使用情況。

它利用這些技術提出了令人不寒而栗的模特同性別的獨裁者，對開放的民主社會構成直接威脅。雖然沒有證據表明其他政府已經復制了這種級別的人工智能監控，但中國公司正在積極向世界各地出口相同的基礎技術。

在美國越來越依賴AI工具

人工智能係統現代世界無處不在，幫助運行智能手機，互聯網搜索引擎，數字語音助理和Netflix電影隊列。很多人沒有意識到由於要分析的數據量不斷增加，改進了算法和先進的計算機芯片，人工智能的擴展速度有多快。

任何時候有更多的信息可供使用，分析變得更容易，政府感興趣 - 而不僅僅是專制的。例如，在美國，1970看到政府機構 - 如FBI，CIA和NSA--已經建立廣闊的國內監控網絡監督和騷擾民權抗議者，政治活動家和美洲原住民團體。這些問題並沒有消失：今天的數字技術加深了更多機構進行更具侵入性監控的能力。

算法在多大程度上預測了警察應該最關注哪些方面？ Arnout de Vries

例如，美國警方急切地接受了人工智能技術。他們已經開始使用軟件了意在預測罪行將在何處發生決定在何處派遣巡邏人員。他們也在使用面部識別和 DNA分析在刑事調查中。但對這些系統的分析表明了這一點訓練這些系統的數據經常有偏見，導致不公平的結果如錯誤地確定非洲裔美國人更有可能犯罪比其他團體。

世界各地的人工智能監控

在專制國家，人工智能係統可以直接幫助國內控制和監視，幫助內部安全部隊處理大量信息 - 包括社交媒體帖子，短信，電子郵件和電話 - 更快更有效。警方可以識別社會趨勢和特定的人誰可能會根據這些系統發現的信息威脅政權。

例如，中國政府已經在中國境內少數民族聚居地區大規模打擊人工智能。新疆和西藏的監視系統被描述為“奧威爾“這些努力包括在內強制性DNA樣本，Wi-Fi網絡監控和廣泛的面部識別攝像頭，都連接到集成數據分析平台。根據美國國務院的統計，在這些系統的幫助下，中國當局“任意拘留” 1和2萬人.

My 研究著眼於世界各地的90國家政府類型包括封閉的專制國家和有缺陷的民主國家，包括泰國，土耳其，孟加拉國和肯尼亞。我發現中國公司是出口AI監控技術至少這些國家的54。這項技術經常被打包成中國旗艦的一部分帶和道路倡議這是一個廣泛的公路，鐵路，能源管道和電信網絡網絡服務於世界人口的60％和經濟產生全球GDP的40％。

例如，中國公司喜歡華為中興通訊正在建設“智慧城市” 巴基斯坦, 菲律賓人和肯尼亞，具有廣泛的內置監控技術。例如，華為已經裝備好了博尼法喬全球城市菲律賓的高清互聯網攝像頭提供“24 / 7智能安全監控通過數據分析來檢測犯罪並幫助管理流量。“

菲律賓Bonifacio Global City擁有大量嵌入式監控設備。 alveo land / Wikimedia Commons

海康威視, Yitu 和 SenseTime 提供最先進的面部識別相機，用於像新加坡 - 宣佈建立監測計劃 110,000攝像機安裝在燈柱上在城邦周圍。津巴布韋正在創造一個國家圖像數據庫可用於面部識別。

然而，出售利潤的先進設備不同於具有明確地緣政治目的的共享技術。這些新的能力可能為全球監測埋下了種子：隨著各國政府越來越依賴中國的技術來管理其人口和維持權力，他們將面臨更大的壓力，以配合中國的議程。但目前看來，中國的主要動機是主導新技術市場並在此過程中賺大錢。

AI和虛假信息

除了提供全面和細粒度的監控功能外，AI還可以幫助壓制性政府操縱可用信息並傳播虛假信息。這些活動可以自動化或自動化輔助和部署超個性化消息針對 - 或反對 - 特定的人或團體。

AI也支持通常被稱為“deepfake，“算法創造逼真的視頻和音頻偽造。在一個緊張的選舉中，當一個候選人可以製作虛假的視頻來展示對手在做什麼和說從未發生過的事情時，在真相和虛構之間徘徊可能會變得有用。

早期的深度視頻顯示了先進技術的一些危險。

{vembed Y=cQ54GDm1eL0}

在我看來，民主國家的政策制定者應該仔細考慮人工智能係統對他們自己的社會和生活在世界各地專制政權下的人們的風險。一個關鍵問題是有多少國家將採用中國的數字監控模式。但這不僅僅是專制國家的感覺。此外，不僅僅是中國企業傳播技術：許多美國公司，包括微軟，但是 IBM，思科和賽默飛世爾也為惡劣的政府提供了複雜的能力。人工智能的濫用並不僅限於專制國家。