SHUTTERSTOCK
人工智能（AI）正在學習有關如何與人類（以及人類）合作的更多信息。 一種 最近的一項研究 展示了AI如何學會識別人類習慣和行為中的漏洞，並利用它們來影響人類決策。
人工智能似乎正在改變我們生活和工作方式的方方面面，這似乎有些老套，但這是事實。 各種形式的AI正在疫苗開發，環境管理和辦公室管理等領域工作。 儘管人工智能不具備人類般的智力和情感，但其功能卻強大且發展迅速。
無需擔心機器被接管，但是最近的發現凸顯了AI的強大功能，並強調了適當治理以防止濫用的必要性。
人工智能如何學會影響人類行為
一個研究團隊 CSIRO的Data61澳大利亞國家科學局的數據和數字部門，通過一種稱為遞歸神經網絡和深度強化學習的AI系統，設計了一種系統的方法來發現和利用人們做出選擇的漏洞。 為了測試他們的模型，他們進行了三個實驗，其中人類參與者在計算機上玩遊戲。
第一個實驗涉及參與者單擊紅色或藍色框贏得假幣，而AI則學習參與者的選擇模式並指導他們進行特定選擇。 AI大約有70％的時間是成功的。
在第二個實驗中，要求參與者觀看屏幕並在顯示特定符號（例如橙色三角形）時按下按鈕，而在顯示另一個符號（例如藍色圓圈）時不按下按鈕。 AI在這裡著手安排符號的順序，以便參與者犯下更多的錯誤，並實現了將近25％的增長。
第三個實驗包括幾輪，其中參與者偽裝成向受託人（AI）捐錢的投資者。 然後，AI將向參與者退還一定金額的資金，然後由參與者決定在下一輪投資多少。 該遊戲以兩種不同的模式進行遊戲：一種是AI最大化其最終收益，另一種AI旨在在自身和人類投資者之間公平分配資金。 人工智能在每種模式下都非常成功。
在每個實驗中，機器都會從參與者的反應中吸取教訓，並在人們的決策中識別並確定目標漏洞。 最終結果是機器學會了引導參與者採取特定行動。
在實驗中 
n人工智能係統成功學會了影響人類決策的能力。 SHUTTERSTOCK
研究對AI的未來意味著什麼
這些發現仍然非常抽象，涉及有限且不切實際的情況。 需要開展更多研究，以確定如何將該方法付諸實踐並用於造福社會。
但是這項研究的確促進了我們對AI可以做什麼以及人們如何做出選擇的理解。 它表明機器可以通過與我們的互動來學習引導人類做出選擇。
該研究具有廣泛的可能應用，從增強行為科學和公共政策以改善社會福利，到理解和影響人們如何養成健康的飲食習慣或可再生能源。 人工智能和機器學習可以用來識別人們在某些情況下的脆弱性，並幫助他們擺脫錯誤的選擇。
該方法還可以用於防禦影響攻擊。 例如，當我們受到在線影響時，機器可能會被提醒來提醒我們，並幫助我們塑造一種行為來掩飾我們的漏洞（例如，通過不單擊某些頁面或單擊其他頁面來進行虛假跟踪）。
下一步是什麼？
像任何技術一樣，AI的好壞都可以使用，正確的治理對於確保以負責任的方式實施至關重要。 去年，CSIRO開發了 人工智能倫理框架 對於澳大利亞政府來說是此旅程的第一步。
人工智能和機器學習通常非常渴望數據，這意味著確保我們擁有有效的數據治理和訪問系統至關重要。 收集數據時實施適當的同意程序和隱私保護至關重要。
使用和開發AI的組織需要確保他們知道這些技術可以做什麼和不能做什麼，並且要了解潛在的風險和收益。
關於作者
導演喬恩·惠特爾 Data61
