Facebook沒有告訴我們如何打擊網絡濫用
SHUTTERSTOCK

Facebook首次提供了有關的數據 濫用評論的規模 發佈到其網站。 這可能是在社交媒體公司組織越來越大的壓力下完成的 關於在線濫用透明,或者獲得信譽 劍橋Analytica數據醜聞。 無論哪種方式,這些數字都不能令人愉悅。

In 為期六個月 從10月2017到3月20178,21m性暴露圖片,3.5m圖形暴力帖子和2.5m形式的仇恨言論都從其網站上刪除。 這些數字有助於揭示一些引人注目的觀點

正如預期的那樣,數據表明問題正在惡化。 例如,在1月到3月之間,據估計,對於每個10,000在線消息,22和27之間都包含圖形暴力, 在過去的三個月裡從16升級到19。 這大大緩解了這樣一個事實,即在英國,對在線濫用的起訴一直在減少,如下圖所示。

然而Facebook沒有告訴我們的同樣重要。

社交網絡一直是 在不斷增長的壓力 打擊其網站上的濫用行為,特別是刪除 恐怖主義宣傳 在諸如2017 Westminster攻擊和曼徹斯特競技場爆炸事件之後。 在這裡,該公司一直積極主動。 在1月至3月的2018期間,Facebook刪除了鼓勵恐怖主義宣傳的1.9m消息,與前三個月相比增加了800,000評論。 借助先進的技術,共有99.5%的消息被定位。

乍一看,Facebook似乎已經成功開發出可以從服務器中刪除此內容的軟件。 但Facebook尚未發布數據顯示如何 流行的恐怖分子 宣傳在其網站上。 所以我們真的不知道軟件在這方面有多成功。


內在自我訂閱圖形


刪除暴力帖子

Facebook還利用技術幫助消除其網站上的圖片暴力。 在兩個三個月期間,刪除的帖子數量增加了183%,標記為圖形暴力。 這些評論的總共86%由計算機系統標記。

但我們也知道,Facebook的數據也表明,27的每一條評論都超過了10,000,這使得它超越了檢測技術所包含的圖形暴力。 這聽起來並不多,但值得考慮的是,超過2十億活躍用戶發佈到該網站的總評論數量絕對多少。 一個估計 建議510,000評論每分鐘發布一次。 如果準確,那就意味著1,982,880暴力評論每隔24小時發布一次。

為了彌補其檢測軟件的失敗,Facebook和其他社交網絡一樣,多年來一直依賴自我監管,鼓勵用戶使用 報告評論 他們認為不應該在網站上。 例如,在1月到3月的2018之間,Facebook刪除了被認為是仇恨言論的2.5m評論,但這些消息中只有950,000(38%)被其係統標記。 該 其他62% 用戶報告。 這表明Facebook的技術未能充分打擊其網絡上的仇恨言論,儘管人們越來越關注社交網站 正在加油 在現實世界中討厭犯罪。

報告了多少條評論?

這將我們帶到Facebook發布的數據中未包含的另一個重要數字:用戶報告的評論總數。 由於這是解決在線濫用問題的基本機制,因此應向公司提供向公司提交的報告數量。 這將使我們能夠理解在線發布的濫用評論的全部內容,同時明確Facebook未從網站上刪除的消息總數。

Facebook決定發布暴露其網站濫用程度的數據,這是向前邁出的重要一步。 相比之下,Twitter被要求提供類似的信息 但拒絕了 釋放它,聲稱它會產生誤導。 顯然,並非社交網站用戶標記的所有評論都會違反其條款和條件。 但Twitter沒有公佈這些信息表明該公司不願意透露其網站上的濫用程度。

談話然而,即使Facebook仍然有很長的路要走,才能實現完全透明。 理想情況下,所有社交網站都會發布年度報告,說明他們如何在線處理濫用行為。 這將使監管機構和公眾更直接地控制公司,以解決從服務器中刪除在線濫用的失敗。

關於作者

Laura Bliss,社交媒體法博士候選人, 邊山大學

這篇文章最初發表於 談話。 閱讀 原創文章.

相關書籍:

at InnerSelf 市場和亞馬遜