私營公司在沒有獨立監督或監管的情況下監管在線仇恨，這會產生嚴重影響並對基本人權和自由構成風險。 （存在Shutterstock）
最近在弗吉尼亞州夏洛茨維爾舉行的武裝白人至上主義者的火炬點燃遊行繼續引發關於如何監管仇恨團體的爭論。 在遊行結束後公眾壓力越來越大的情況下，互聯網公司急於從其平台上刪除支持暴力仇恨言論的網站。
GoDaddy的 終止其域名服務 到新納粹網站The Daily Stormer，就像那樣 谷歌。 Cloudflare也是一家保護網站免受在線攻擊的公司 禁止 來自其平台的仇恨網站。 俄羅斯下令該網站被禁止 來自在該國的託管。
我的研究 和我的書 Chokepoints：互聯網上的全球私人監管 證明許多互聯網公司已經“自願”刪除內容並禁止用戶 - 也就是說，在沒有立法或任何司法程序的情況下。 包括Google，PayPal，GoDaddy，Twitter和Facebook在內的主要中介機構自願監管其平台上的兒童性虐待內容，極端主義和假冒商品的非法交易。
很多人都讚賞這些努力來消除仇恨言論和其他令人反感的內容。 然而，互聯網公司作為事實上的言論監管者的努力提出了嚴重的問題：如何監管在線內容？ 通過誰？
我不支持白人至上主義者，我也不反對對這種言論進行一些監管。 相反，我說我們需要認真考慮如何規範在線內容，因為下一個案例可能不那麼明確。
依靠強大的公司來監管互聯網存在重大問題，因為他們的執法行為非常不透明，容易被任意解釋。
令人不安的先例
Cloudflare首席執行官馬修·普林斯（Matthew Prince）公開反對“每日斯托默”（Daily Stormer）對互聯網公司的歡呼聲形成鮮明對比，他提出了一個細緻入微的警示視角，警告說，為應對公眾壓力而從仇恨團體中撤回服務，這使得在線言論受到警惕成為一個令人不安的先例。
在 博客文章 在解釋Cloudflare對Daily Stormer的行為時，Prince認為公司認為正當程序是一個比言論自由更“重要的原則”。 他說，正當程序意味著“如果您參與該系統，您應該能夠了解系統將遵循的規則。”這一陳述恰當地反映了中間人作為內容和在線行為的事實監管者所固有的問題。
今年早些時候， Shopify員工 數以百計 成千上萬的人 敦促和 上書 在線商務平台停止託管極右翼的Breitbart Media的互聯網商店。 恢復執行主席 斯蒂芬班農 電話 Breitbart“alt-right的平台”。 所謂的“alt-right” - 一個普及的術語 理查德伯特蘭斯賓塞 - 涵蓋了白人至上主義者，分離主義者，新納粹主義者，法西斯主義者，種族主義者，反猶太主義者，伊斯蘭恐怖主義者和民粹主義保守主義思想的混合體。
Shopify首席執行官TobiasLütke表示他正在捍衛言論自由 因為渥太華公司繼續在受到威脅的情況下接待Breitbart的網上商店 員工辭職。 公開之後 壓力 並稱一項基層運動 #DeleteShopify 導致審查揭示更多 可疑的業務，Shopify是 強 採用一個 “可接受的使用政策。”
The Daily Stormer的相反例子及其被互聯網公司刪除，以及Shopify對Breitbart的堅定支持，表明極端的困境只會有所加劇。
任意政策，監管
互聯網中介有可能在各種各樣的問題上成為強有力的監管機構，因為他們可以迅速採取行動而無需法院命令。 重要的是，他們有權審查任何內容或根據服務條款協議禁止用戶。
PayPal保留終止其對用戶服務的權利“無論出於何種原因和任何時間，“在大多數中介機構的服務協議中得到回應的語言。 因此，任意監管的能力被納入中間人的內部規則。
普林斯告誡說，Cloudflare對Daily Stormer採取的行動為中間人提供了一個先例，可以在沒有法院命令要求他們這樣做的情況下對警察發表言論。
這些中介通常是在政府的要求下行事，而這些政府更傾向於將公司視為互聯網監管的公眾（但在很大程度上是不負責任的）。 但是這些公司通常沒有能力將合法性與非法性區分開來，導致錯誤的罷免和錯誤地針對合法行為。
同樣存在問題：中介的執行過程通常不透明，因為他們的內容主持人任意解釋其複雜，快速變化的內部規則。 中間人越來越多地使用自動化工具來識別和刪除平台上有問題的內容，從而加劇了這些問題。
當最初頒布的針對虐待兒童或恐怖主義的規則 - 執法行動的值得注意的催化劑 - 後來被應用於其他明顯不那麼有害的問題時，例如未經授權下載受版權保護的內容，也存在所謂的任務蔓延問題。
反烏托邦的未來就在這裡
監管工作通常從審查暴力仇恨言論擴展到其他可能被一些人認為有爭議的言論，例如Black Lives Matter。 同樣，世界各國政府經常向中間商施加壓力 審查和跟踪 批評者和政治對手。
當主要中間人成為負責代表政府監管內容或響應高調抗議活動的監管機構時，他們已經相當大的權力增加。 總部位於美國的互聯網公司已經在許多行業中佔據主導地位，包括搜索，廣告，域名註冊，支付和社交媒體。 Cloudflare的王子正確 警告 通過依賴“少數巨型網絡”，“少數公司將在很大程度上決定什麼能夠和不能在線。”
這個反烏托邦的未來已經存在。
Daily Stormer的刪除無疑使世界變得更加美好。 但我們真的希望像Facebook和Twitter這樣的公司獨立，任意和秘密地決定我們可以訪問和分享哪些內容？
鑑於這些看似棘手的問題，我們能做些什麼？ 首先，我們應該避免在抗議或媒體壓力的基礎上進行管理。 代替， 我們需要一套明確的規則 正如普林斯建議的那樣，使中間人能夠始終如一，透明地並尊重正當程序。
各國政府應澄清中間人監管責任的性質，並且重要的是，這一點應該明確。 最後，我們必須停止治理以應對特定的危機 - 所謂的“假新聞”，恐怖主義和仇恨團體 - 而是批判地思考我們如何能夠和應該如何管理互聯網。
關於作者
Natasha Tusikov，社會科學系犯罪學助理教授， 加拿大約克大學
相關書籍
at InnerSelf 市場和亞馬遜
