為何技術將人權置於危險之中

為何技術將人權置於危險之中
Spainter_vfx / Shutterstock.com

電影如 2001:太空奧德賽, “銀翼殺手” - 終結者 將流氓機器人和計算機系統帶入我們的電影屏幕。 但是現在,這樣的經典科幻小說眼鏡似乎並沒有脫離現實。

我們越來越多地使用自主和智能的計算技術來生活,工作和娛樂。 這些系統包括具有獨立推理和決策能力的軟件和硬件。 他們在工廠里為我們工作; 他們決定我們是否可以獲得抵押貸款; 他們跟踪和衡量我們的活動和健康水平; 他們打掃我們的客廳地板,剪掉我們的草坪。

自主和智能係統有可能影響我們社會,經濟,政治和私人生活的幾乎每個方面,包括平凡的日常生活。 其中大部分似乎是無辜的,但有理由擔心。 計算技術影響著每一個人權,從權利到生命,從權利到隱私,言論自由,社會和經濟權利。 那麼,我們如何在機器人和人工智能(AI)日益形成的技術領域中捍衛人權呢?

人工智能和人權

首先,人們真的擔心增加機器自主權會破壞人類的地位。 當智能機器造成傷害時,無論是在法律上還是在道德意義上都不清楚誰將被追究責任,這種擔心更加複雜。 但我不確定我們對人權問題的關注應該真正存在 流氓機器人,就像目前看來一樣。 相反,我們應該擔心機器人和人工智能的人類使用以及它們在不公正和不平等的政治,軍事,經濟和社會環境中的部署。

這種擔心與致命的自主武器系統(LAWS)特別相關,後者通常被稱為殺手機器人。 和我們一樣 走向AI軍備競賽,人權學者和活動家,如前聯合國法外處決,即決處決或任意處決特別報告員Christof Heyns,擔心使用LAWS將自動機器人系統 負責生死決定,有限或無人控制。

AI還徹底改變了戰爭與監視實踐之間的聯繫。 像這樣的團體 國際機器人軍備控制委員會(ICRAC) 最近表示反對谷歌參與 項目Maven,一個使用機器學習來分析無人機監控錄像的軍事計劃,可以用於法外殺戮。 ICRAC 呼籲 谷歌確保其用戶收集的數據從未用於軍事目的,加入了谷歌員工對公司參與該項目的抗議。 谷歌最近宣布了它 不會續約 它的合同。

在2013中,愛德華·斯諾登強調了監督實踐的範圍 啟示。 這些教會了我們很多關於隱私權的威脅以及情報機構,政府機構和私營公司之間的數據共享。 最近的爭議圍繞著 劍橋分析公司通過使用Facebook等社交媒體平台收集個人數據繼續引起嚴重的擔憂,這次是過度操縱和乾涉破壞言論自由權的民主選舉。


從InnerSelf獲取最新信息


同時,關鍵數據分析師也在挑戰 歧視性做法 他們稱之為AI的“白人問題”。 這是人工智能係統對現有數據進行培訓的問題,這種關注複製了現有的種族和性別陳規定型觀念,這些陳規定型觀念在警務,司法決策或就業等領域長期存在歧視性做法。

AI可以復制並鞏固刻板印象。
AI可以復制並鞏固刻板印象。
Ollyy / Shutterstock.com

曖昧的機器人

最近發表的一項研究強調了計算技術對人權以及物理,政治和數字安全的潛在威脅 人工智能的惡意使用。 必須認真對待劍橋大學報告中表達的關切。 但是我們應該如何處理這些威脅呢? 人權是否為機器人和人工智能時代做好了準備?

目前正在努力更新這個時代的現有人權原則。 這些包括 聯合國框架和工商業與人權指導原則,試圖寫一個 Magna Carta為數字時代 和生命研究所的未來 Asilomar AI原則,確定道德研究指南,堅持價值觀,並致力於人工智能的長期有益發展。

這些努力值得讚揚,但還不夠。 政府和政府機構,政黨和私營公司,尤其是領先的科技公司,必須致力於人工智能的道德使用。 我們還需要有效和可執行的立法控制。

無論我們採取什麼新措施,重要的是要承認我們的生活越來越多地與自動機器和智能係統糾纏在一起。 這種糾纏在醫療研究和治療,運輸系統,社會護理環境以及保護環境的努力等領域增強了人類的福祉。

但在其他領域,這種糾纏引發了令人擔憂的前景。 計算技術用於觀察和跟踪我們的行為和行為,追踪我們的步驟,我們的位置,我們的健康,我們的品味和我們的友誼。 這些制度塑造了人類的行為,並使我們轉向自我監督的做法,這種做法限制了我們的自由,破壞了人權的思想和理想。

談話這就是關鍵所在:雙重使用計算技術的能力模糊了慈善和惡意行為之間的界限。 更重要的是,計算技術與個體公民,國家及其機構和私營公司之間的不平等權力關係密切相關。 如果從有效的國家和國際制衡制度中脫穎而出,它們將對我們的人權構成真正和令人擔憂的威脅。

關於作者

Birgit Schippers,訪問研究員,參議員George J Mitchell全球和平,安全與司法研究所, 貝爾法斯特女王大學

這篇文章最初發表於 談話。 閱讀 原創文章.

相關書籍

{amazonWS:searchindex = Books; Birgit Schippers = innerself; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

關注InnerSelf

Facebook的圖標Twitter的圖標RSS圖標

通過電子郵件獲取最新信息

{emailcloak = OFF}