人工智能係統如何威脅民主

隱私

美國科技巨頭 微軟已經與一所中國軍事大學合作 開發 人工智能係統 這可能會增強政府監督和審查能力。 二 美國參議員公開譴責 夥伴關係,但是什麼 中國國防科技大學 來自微軟的想法不是唯一的問題。

As 我的研究表明,數字壓制的出現正在深刻地影響著 公民與國家之間的關係。 新技術正在為政府提供前所未有的監控,跟踪和監視個人的能力。 甚至民主國家的政府也有著強烈的傳統 法律規則 發現自己很想濫用 這些新能力.

與各國 不負責任的機構和頻繁的侵犯人權行為,AI系統很可能會造成更大的傷害。 中國是一個突出的例子。 它的領導者熱情地接受了人工智能技術,並建立了世界的技術 最複雜的 監督狀態 in 新疆省,跟踪市民的日常運動和智能手機使用情況。

它利用這些技術 提出了令人不寒而栗的模特 同性別的獨裁者,對開放的民主社會構成直接威脅。 雖然沒有證據表明其他政府已經復制了這種級別的人工智能監控,但中國公司正在積極向世界各地出口相同的基礎技術。


從InnerSelf獲取最新信息


在美國越來越依賴AI工具

人工智能係統 現代世界無處不在,幫助運行智能手機,互聯網搜索引擎,數字語音助理和Netflix電影隊列。 很多人沒有意識到 由於要分析的數據量不斷增加,改進了算法和先進的計算機芯片,人工智能的擴展速度有多快。

任何時候有更多的信息可供使用,分析變得更容易,政府感興趣 - 而不僅僅是專制的。 例如,在美國,1970看到政府機構 - 如FBI,CIA和NSA--已經建立 廣闊的國內監控網絡 監督和騷擾民權抗議者,政治活動家和美洲原住民團體。 這些問題並沒有消失:今天的數字技術加深了更多機構進行更具侵入性監控的能力。

隱私 算法在多大程度上預測了警察應該最關注哪些方面? Arnout de Vries

例如,美國警方急切地接受了人工智能技術。 他們已經開始使用軟件了 意在預測罪行將在何處發生 決定在何處派遣巡邏人員。 他們也在使用 面部識別 - DNA分析 在刑事調查中。 但對這些系統的分析表明了這一點 訓練這些系統的數據 經常有偏見,導致 不公平的結果錯誤地確定非洲裔美國人更有可能犯罪 比其他團體。

世界各地的人工智能監控

在專制國家,人工智能係統可以直接幫助國內控制和監視,幫助 內部安全部隊處理大量信息 - 包括社交媒體帖子,短信,電子郵件和電話 - 更快更有效。 警方可以識別社會趨勢和 特定的人 誰可能會根據這些系統發現的信息威脅政權。

例如,中國政府已經在中國境內少數民族聚居地區大規模打擊人工智能。 新疆和西藏的監視系統被描述為“奧威爾“這些努力包括在內 強制性DNA樣本,Wi-Fi網絡監控和廣泛的面部識別攝像頭,都連接到集成數據分析平台。 根據美國國務院的統計,在這些系統的幫助下,中國當局“任意拘留” 1和2萬人.

My 研究著眼於世界各地的90國家 政府類型包括封閉的專制國家和有缺陷的民主國家,包括泰國,土耳其,孟加拉國和肯尼亞。 我發現中國公司是 出口AI監控技術 至少這些國家的54。 這項技術經常被打包成中國旗艦的一部分 帶和道路倡議這是一個廣泛的公路,鐵路,能源管道和電信網絡網絡 服務於世界人口的60% 和經濟產生全球GDP的40%。

例如,中國公司喜歡 華為 中興通訊正在建設“智慧城市” 巴基斯坦, 菲律賓人 - 肯尼亞,具有廣泛的內置監控技術。 例如,華為已經裝備好了 博尼法喬全球城市 菲律賓的高清互聯網攝像頭提供“24 / 7智能安全監控 通過數據分析來檢測犯罪並幫助管理流量。“

隱私 菲律賓Bonifacio Global City擁有大量嵌入式監控設備。 alveo land / Wikimedia Commons

海康威視, Yitu - SenseTime 提供最先進的面部識別相機,用於像 新加坡 - 宣佈建立監測計劃 110,000攝像機安裝在燈柱上 在城邦周圍。 津巴布韋正在創造一個 國家圖像數據庫 可用於面部識別。

然而,出售利潤的先進設備不同於具有明確地緣政治目的的共享技術。 這些新的能力可能為全球監測埋下了種子:隨著各國政府越來越依賴中國的技術來管理其人口和維持權力,他們將面臨更大的壓力,以配合中國的議程。 但目前看來,中國的主要動機是主導新技術市場並在此過程中賺大錢。

AI和虛假信息

除了提供全面和細粒度的監控功能外,AI還可以幫助壓制性政府操縱可用信息並傳播虛假信息。 這些活動可以自動化或自動化輔助和部署 超個性化消息 針對 - 或反對 - 特定的人 或團體。

AI也支持通常被稱為“deepfake,“算法創造 逼真的視頻和音頻偽造。 在一個緊張的選舉中,當一個候選人可以製作虛假的視頻來展示對手在做什麼和說從未發生過的事情時,在真相和虛構之間徘徊可能會變得有用。

早期的深度視頻顯示了先進技術的一些危險。

在我看來,民主國家的政策制定者應該仔細考慮人工智能係統對他們自己的社會和生活在世界各地專制政權下的人們的風險。 一個關鍵問題是有多少國家將採用中國的數字監控模式。 但這不僅僅是專制國家的感覺。 此外,不僅僅是中國企業傳播技術:許多美國公司,包括微軟,但是 IBM,思科和賽默飛世爾 也為惡劣的政府提供了複雜的能力。 人工智能的濫用並不僅限於專制國家。談話

關於作者

Steven Feldstein,Frank和Bethine教會公共事務主席兼公共服務學院副教授, 博伊西州立大學

本文重新發表 談話 根據知識共享許可。 閱讀 原創文章.

相關書籍

{amazonWS:searchindex =圖書;關鍵字= AI監控; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

關注InnerSelf

Facebook的圖標Twitter的圖標RSS圖標

通過電子郵件獲取最新信息

{emailcloak = OFF}

正確的2廣告Adsterra