任何人,甚至你,可能會成為一個互聯網巨魔

根據定義,互聯網巨魔具有破壞性,好鬥性,並且經常令人不愉快的是他們的攻擊性或挑釁性的在線帖子旨在打擾和沮喪。

常見的假設是,巨魔的人與我們其他人不同,給予我們解僱他們及其行為的自由。 但是一項新的研究表明,在適當的情況下,任何人都可以成為巨魔。

斯坦福大學計算機科學研究員,新論文的主要作者Justin Cheng說:“我們想了解為什麼拖釣今天如此普遍。” “雖然眾所周知,巨魔特別是那些偶爾會出現在對話中的反社會人士,但真的只是這些人在拖著別人嗎?”

心情不好

拖釣行為是天生的特徵還是情境因素會影響人們像巨魔一樣行事? 為了找到答案,研究人員使用了實驗,數據分析和機器學習的組合,並將一些簡單的因素歸結為普通人更容易被哄騙。

在之前關於反社會行為的研究之後,研究人員決定關注情緒和語境如何影響人們在討論論壇上所寫的內容。 他們通過眾包平台招募了通過667科目進行的兩部分實驗。

在實驗的第一部分,參與者接受了測試,這非常簡單或非常困難。 在參加測試後,所有受試者都填寫了一份問卷,評估了他們心情的各個方面,包括憤怒,疲勞,抑鬱和緊張。 正如預期的那樣,完成艱難測試的人心情比那些輕鬆測試的人情緒更糟。


內在自我訂閱圖形


然後指示所有參與者閱讀文章並參與其評論部分。 他們不得不留下至少一條評論,但可以留下多條評論,上行和投票,並可以回復其他評論。 所有參與者在同一平台上看到了同一篇文章,僅為實驗而創建,但一些參與者在評論部分的頂部獲得了一個有三個巨魔帖子的論壇。 其他人看到三個中立職位。

兩名獨立專家評估了被認定為拖釣的受試者留下的職位,這一研究通常是通過多個討論論壇的發布指南來確定的。 例如,人身攻擊和詛咒表明了巨魔職位。

關於35完成輕鬆測試並看到中立帖子的百分比然後​​發布了他們自己的巨魔評論。 如果受試者要么接受了硬性測試,要么看到拖釣評論,那麼這個百分比就會上升到50%。 暴露於困難測試和巨魔職位的人在大約68的百分比時間內被控制。

為了將這些實驗見解與現實世界聯繫起來,研究人員還分析了來自整個2012的CNN評論部分的匿名數據。 數據由1,158,947用戶,200,576討論和26,552,104帖子組成,包括被版主刪除的被禁用戶和帖子。 在這部分研究中,該團隊將巨魔職位定義為社區成員因濫用而被標記的巨魔職位。

'消極的螺旋'

不可能直接評估評論者的情緒,但研究人員查看了帖子的時間戳,因為之前的研究表明,時間和星期幾與心情相符。 投票和標記帖子的事件與既定的消極情緒模式密切相關。 這種事件往往會在深夜和本周初增加,這也是人們最可能心情不好的時候。

研究人員進一步研究了情緒的影響,發現如果他們最近被標記或者他們參加了一個單獨的討論,只是包括其他人寫的標記帖子,那麼人們更有可能產生一個被標記的帖子。 無論哪篇文章與討論相關,這些發現都是正確的。

“這是一個消極的螺旋,”計算機科學副教授和該論文的高級作者Jure Leskovec說。 “只有一個人醒來時會產生火花,而且由於討論背景和投票,這些火花可能會導致不良行為。 糟糕的對話會導致糟糕的對話。 投票率下降的人回來更多,評論更多,評論甚至更糟。“

預測已標記的帖子

作為他們研究的最後一步,該團隊創建了一個機器學習算法,其任務是預測作者寫的下一篇文章是否會被標記。

提供給算法的信息包括作者上一篇文章的時間戳,是否標記了最後一篇文章,是否標記了討論中的上一篇文章,作者撰寫標記帖子的總體歷史記錄以及作者的匿名用戶ID 。

調查結果顯示,討論中上一篇文章的標誌狀態是下一篇文章是否會被標記的最強預測因素。 與情緒相關的特徵,例如評論者的時間安排和之前的標記,遠沒有那麼預測。 用戶的歷史記錄和用戶ID雖然有些預測性,但仍然比討論上下文信息量少得多。 這意味著,雖然有些人可能總是更容易被拖釣,但我們發布的背景更有可能導致拖釣。

影子禁令和冷靜時期?

在現實生活中,大規模的數據分析,實驗和預測任務之間,結果是強有力和一致的。 研究人員認為,談話環境和情緒可能導致拖釣。 他們相信這可以為創建更好的在線討論空間提供信息。

康奈爾大學信息科學助理教授,該論文的共同作者,Cristian Danescu-Niculescu-Mizil說:“如果我們想提高在線討論的質量,那麼理解實際上決定某人反社會行為的內容至關重要。” “洞察潛在的因果機制可以為鼓勵更民間在線討論的系統設計提供信息,並可以幫助主持人更有效地減輕拖釣。”

防止拖釣的干預措施可能包括討論論壇,該論壇向剛剛發布過帖子的評論者推薦冷靜期,系統會自動提醒主持人注意可能是巨魔帖子的帖子或“影子禁止” - 隱藏巨魔帖子來自非巨魔用戶而沒有通知巨魔。

研究人員認為,這樣的研究只是一段時間以來所需要的工作的開始,因為互聯網遠遠不是人們曾經認為會變成的全球性的親切辯論和討論的村莊。

斯坦福大學計算機科學助理教授,共同作者邁克爾伯恩斯坦說:“最終,這項研究的真正含義是,我們在討論中引起了這些故障。” “很多新聞網站都刪除了他們的評論系統,因為他們認為這與實際的辯論和討論背道而馳。 了解我們自己最好和最壞的自我是將這些自己帶回來的關鍵。“

作為即將召開的2017計算機支持的協同工作和社交計算會議的一部分出版。

資源: 斯坦福大學

相關書籍

at InnerSelf 市場和亞馬遜