這是時代的光芒一盞燈的算法,電力大哥

按算法排序將我們放在盒子裡。 我們怎麼知道它們是正確的? 生成,CC BY按算法排序將我們放在盒子裡。 我們怎麼知道它們是正確的? 生成,CC BY

社會似乎已經走上了一條道路,我們的生活受到計算機算法的嚴格審查。 無論是政府為國家安全還是利潤公司,我們生成的數據都經過仔細研究和分析,這種情況不太可能改變 - 數據分析的力量和吸引力一旦被發現,就不會輕易放棄。

但實際上我想知道我是否更關心我們的數據是在收集,還是因為我們對判斷我們的算法一無所知。

我們之前已經討論過可以從我們留下的數據中刪除的關於我們的生活和習慣的詳細程度,並且正在圍繞英國草案進行辯論的一部分。 調查權力法案。 我們至少知道收集哪些數據以及存儲多長時間,其中一些數據受英國和歐洲法律管轄。

法案草案案文例如,我們知道英國政府將“僅”要求(無根據)訪問通信元數據,電子郵件的標題和主題以及電話記錄。 但我們也知道單獨展示元數據的方式:看一看 麻省理工學院媒體實驗室的浸入式項目 這是一個有力的例子,可以從中確定多少細節。 這當然是 不是在所有可比的逐項手機話費如所聲稱的那樣。

所以無論好壞,我們,公眾,都有一些關於記錄內容的線索。 但我們完全不知道對這些數據應用了哪些分析工具和技術 - 這一點的重要性不容小覷。

什麼破壞數字?

我們可以做出有根據的猜測。 國家安全機構可能會利用我們的元數據在人與地之間建立社交網絡,其中包括將我們聯繫在一起。 然後將對這些關係網絡進行分析,以確定我們是否是感興趣的人,由您與其他感興趣的人進行比較以及如何與現有的人或與他們相關的人聯繫起來。

使用這些技術的研究人員了解其局限性,並且為其提供動力的算法可能包含對其輸出產生深遠影響的錯誤或潛在假設。 在這種情況下,這可能意味著您是否被標記為恐怖分子,或者您是否有資格獲得貸款或抵押貸款。

在模糊邊界區域中定義關係的存在的位置也不完全清楚。 簡單地訪問與恐怖分子相同的網站是否意味著共同的價值觀,或者每天乘坐同一條公共汽車路線,是否經常與恐怖分子交談? 出於許多正當理由,很有可能訪問已知恐怖分子經常光顧的地點。 如果你從恐怖分子的同一網站得到你的新聞,你更有可能成為恐怖分子嗎? 歧視和偏見 可以在數據收集時引入,然後在決定如何分析數據時再次引入。 算法也可以區別對待。

模糊的邊界

算法引入不良偏差的可能性是非常真實的。 例如,安全部門使用的那些訓練有關已知恐怖分子和已知非恐怖分子的數據集。 這是否意味著, 眾所周知的恐怖分子是20-30的男性,你更有可能被歸類為僅僅是男性和大約20-30的恐怖分子,無論你的其他屬性如何? 如果是這樣,這對數據的使用方式有顯著影響嗎?


 通過電子郵件獲取最新信息

每週雜誌 每日靈感

問題源於我和其他使用複雜網絡分析,機器學習,模式匹配或人工智能技術的學術研究人員使用這些技術進行公開同行評審,以確定技術的強度和結論的有效性; 政府安全部門和私營部門組織沒有。 我們不知道他們的方法的質量以及他們如何部署它們。 這個問題有方法解決嗎?

那些來自另一個安全領域,密碼學的人很久以前就知道,提高算法質量和安全性的最佳方法是將它們公之於眾。 發布了加密實現和密碼,鼓勵研究人員嘗試查找錯誤或缺陷,從而提高所有使用它們的安全性。 另外,通常是閉源(非公共)密碼算法的任何實現 持懷疑態度。 如果他們要向我們發出改變生活的判斷 - 無論我們被標記為恐怖分子還是經濟上不值得 - 同樣的模型應該應用於安全算法。

反對這一舉動的論點是,開放和透明的算法可能會導致恐怖分子修改他們的現實行為,以避免被發現。 這意味著改變他們的互動,聯想,瀏覽習慣和可能的動作。 但是,如果算法運作正常,那將意味著他們基本上不再像恐怖分子那樣行事。 如果我們未來的安全性,自由性和安全性將依賴於這些算法,那麼我們必須確切地確定它們是如何工作的。

關於作者談話

Philip Garnett,約克大學講師。

這篇文章最初發表於 談話。 閱讀 原創文章.

相關圖書:

at

你也許也喜歡

關注InnerSelf

Facebook的圖標Twitter圖標YouTube圖標instagram圖標pintrest圖標rss圖標

 通過電子郵件獲取最新信息

每週雜誌 每日靈感

可用語言

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

INNERSELF聲音

一群多種族的人站在一起合影
尊重多元化團隊的七種方式(視頻)
by 凱莉麥克唐納
尊重具有深遠的意義,但付出沒有任何代價。 以下是您可以展示的方法(以及……
走在夕陽前的大象
占星術概述和星座運勢:16 年 22 月 2022 日至 XNUMX 日
by Pam Younghans
這本占星術周刊基於行星的影響,並提供觀點和…
Leo Buscaglia 書籍封面上的照片:生活、愛與學習
如何在幾秒鐘內改變一個人的生活
by 喬伊斯維塞爾
當有人花時間指出我的美麗時,我的生活發生了巨大的變化。
一張月全食的合成照片
占星術概述和星座運勢:9 年 15 月 2022 日至 XNUMX 日
by Pam Younghans
這本占星術周刊基於行星的影響,並提供觀點和…
05 08 培養慈悲心 2593344 完成
培養對自己和他人的同情心
by Marie T. Russell,InnerSelf.com
當人們談到慈悲時,他們大多指的是對他人的慈悲……因為……
一對年輕夫婦,戴著防護面具,站在橋上
治愈之橋:親愛的冠狀病毒...
by 勞拉·阿維薩諾
冠狀病毒大流行代表了我們現實的心理和物理領域中的一種潮流,即……
丹麥萊索的早晨極光。
占星術概述和星座運勢:2 年 8 月 2022 日至 XNUMX 日
by Pam Younghans
這本占星術周刊基於行星的影響,並提供觀點和…
螺旋
尊重所有人的和諧生活
by Marie T. Russell,InnerSelf.com
在與你的環境和他人和諧相處的內在指導下行走。 你面臨的障礙……
全球統一日的祝福
全球統一日的祝福
by Pierre Pradervand
現在,我以如此堅定的信念和精神上的根基感到,愛是終極的……
月蝕下的生活:沒有什麼比如它似乎......
月蝕下的生活:沒有任何東西可以看似
by 莎拉瓦爾卡斯
月食發生在滿月時,它的光線被地球的陰影擋住了。...
如何將您的臥室組織成寧靜和簡單的綠洲
如何將您的臥室組織成寧靜和簡單的綠洲
by 貝利·加迪斯(Bailey Gaddis)
你的臥室應該是一個簡單的避難所,為你提供一個空的空間來傾倒……

閱讀量最高的

05 08 培養慈悲心 2593344 完成
培養對自己和他人的同情心(視頻)
by Marie T. Russell,InnerSelf.com
當人們談到慈悲時,他們大多指的是對他人的慈悲……因為……
寫信的人
寫下真相,讓情緒流動
by 芭芭拉伯傑
把事情寫下來是練習說真話的好方法。
大腦灰質和白質 4 7
了解大腦的灰質和白質
by 克里斯托弗·菲利,科羅拉多大學
人腦是一個重達三磅的器官,在很大程度上仍然是一個謎。 但大多數人都聽說過……
兩個小男孩坐在乾草堆旁摘蘋果
對年輕人強硬會提高表現嗎?
by 詹妮弗弗雷澤
欺凌範式讓家長、老師和教練認為他們必須強硬到了極點……
一個人赤腳站在草地上的圖片
接地和恢復與自然的聯繫的實踐
by 約萬卡·西亞雷斯
我們都與自然和整個世界有這種聯繫:與地球、水、空氣和……
當上帝愛你時購物 4 8
被上帝愛的感覺如何減少自我提升的開支
by 杜克大學
屬靈或宗教的基督徒不太可能購買自我提升的產品……
擁抱很好 5 6
為什麼擁抱感覺很好?
by 吉姆·德萊頓(Jim Dryden),聖路易斯華盛頓大學
新的研究表明為什麼擁抱和其他形式的“愉快的觸摸”感覺很好。
Leo Buscaglia 書籍封面上的照片:生活、愛與學習
如何在幾秒鐘內改變一個人的生活
by 喬伊斯維塞爾
當有人花時間指出我的美麗時,我的生活發生了巨大的變化。

新態度 - 新的可能性

InnerSelf.com氣候影響新聞網 | 內力網
MightyNatural.com | WholeisticPolitics.com | InnerSelf市場
版權所有©1985 - 2021心靈有所出版物。 版權所有。