“生活失敗。 自己動彈。“ 
在CNN關於女性如何看待自己的文章中發現的這樣的評論在互聯網上很普遍，無論是Facebook，Reddit還是新聞網站。 這種行為可能包括褻瀆和辱罵，人身攻擊，性騷擾或仇恨言論。
最近的皮尤互聯網調查 發現網上有四分之一的10人受到網上騷擾，更多人目睹了這種行為。 Trolling已經變得如此猖獗，以至於有幾個網站甚至採取了措施 完全刪除評論.
許多人認為拖釣是由少數反社會個體的小型聲音人員完成的。 這種信念不僅得到了加強 媒體，還有過去對拖釣的研究，重點是採訪這些人。 一些研究甚至表明巨魔具有誘發性 個人和生物特徵，如虐待狂和尋求過度刺激的傾向。
但是，如果所有的巨魔都不是天生的巨魔呢？ 如果他們是像你我這樣的普通人怎麼辦？ 在 我們的研究，我們發現人們可以在一個在線社區中在適當的環境下對其他人進行影響。 通過分析在CNN.com上發表的16百萬條評論並進行在線控制實驗，我們確定了可以引導普通人進行巨魔的兩個關鍵因素。
是什麼讓一個巨魔？
我們通過在線眾包平台招募了667參與者，並要求他們先進行測驗，然後閱讀文章並參與討論。 每個參與者都看到了同一篇文章，但有些人進行了討論，這些討論始於巨魔的評論，其他人則看到了中立的評論。 在這裡，拖釣是使用標準社區準則定義的 - 例如，辱罵，褻瀆，種族主義或騷擾。 事先給出的測驗也變得容易或困難。
我們對CNN.com評論的分析有助於驗證和擴展這些實驗觀察。
似乎影響拖釣的第一個因素是一個人的心情。 在我們的實驗中，人們投入負面情緒的可能性更大。 我們還發現，與一天中的時間和一周中的某個時間同步，拖釣起伏不定 自然的人類情緒模式。 拖釣是最常見的深夜，而在早上最不頻繁。 週一，工作週開始時，Trolling也達到高峰。
此外，我們發現負面情緒可以持續超出導致這些感受的事件。 假設一個人參與討論，其他人寫了巨魔評論。 如果那個人繼續參與不相關的討論，那麼他們也更有可能參與討論。
第二個因素是討論的背景。 如果討論以“巨魔評論”開始，那麼後來與其他參與者相比，它的可能性是其他參與者的兩倍，與不以巨魔評論開始的討論相比。
事實上，這些巨魔評論可以加起來。 討論中的巨魔評論越多，未來參與者也越有可能進行討論。 總而言之，這些結果表明，討論中的初步評論為後來的拖釣設定了一個強大而持久的先例。
我們想知道，通過使用這兩個因素，我們可以預測何時會發生拖釣。 使用機器學習算法，我們能夠預測一個人是否會在80的百分比時間內進行搜索。
有趣的是，情緒和討論背景一起是一個更強大的拖釣指標，而不是將特定的個體識別為巨魔。 換句話說，拖釣更多是由人的環境引起的，而不是任何固有的特性。
由於拖釣是情境性的，普通人可能會受到巨魔的影響，這種行為最終會在人與人之間傳播。 討論中的一個巨魔評論 - 可能是由一個在床的錯誤一側醒來的人寫的 - 可能導致其他參與者的情緒更糟，甚至更多的其他地方的巨魔評論。 隨著這種消極行為繼續傳播，如果不加以控制，拖釣最終會成為社區的常態。
反擊
儘管取得了這些令人矚目的結果，但這項研究有多種方法可以幫助我們創建更好的在線空間供公眾討論。
通過了解導致拖釣的原因，我們現在可以更好地預測何時可能發生拖釣。 這可以讓我們提前確定可能存在爭議的討論並提前預警主持人，然後他們可以介入這些激進的情況。
機器學習算法還可以比任何人更快地對數百萬個帖子進行排序。 通過訓練計算機發現拖釣行為，我們可以更快的速度識別和過濾不良內容。
社會干預也可以減少拖釣。 如果我們允許人們收回最近發布的評論，那麼我們可能會最大限度地減少在當下熱情中發布的遺憾。 通過優先考慮建設性意見來改變討論的背景，可以增加對文明的看法。 即使只是將關於社區規則的帖子固定到討論頁面的頂部也有幫助 最近的一次實驗 在Reddit上進行了展示。
儘管如此，還有很多工作要做，以解決拖釣問題。 了解有組織的拖釣的作用可以限制某些類型的不良行為。
瑣事的嚴重程度也可能不同，從咒罵到有針對性的欺凌，這需要不同的反應。
區分巨魔評論對作者意圖的影響也很重要：巨魔是否意味著傷害他人，或者他或她只是想表達不同的觀點？ 這可以幫助將不受歡迎的人與那些只需要幫助傳達他們的想法的人分開。
當在線討論失敗時，不僅要指責反社會人士。 我們也有錯。 許多“巨魔”就像我們自己一樣，過著糟糕的一天。 了解我們對在線討論的鼓舞人心和令人沮喪的對話負責是進行更有成效的在線討論的關鍵。
關於作者
Justin Cheng，計算機科學博士， 斯坦福大學; Cristian Danescu-Niculescu-Mizil，信息科學助理教授， 美國康奈爾大學和計算機科學助理教授Michael Bernstein， 斯坦福大學， 斯坦福大學的Jure Leskovec也為本文做出了貢獻。
相關書籍
at InnerSelf 市場和亞馬遜
