資訊是一種有價值的商品。 得益於技術，有 數百萬太字節 在線。
ChatGPT 等人工智慧 (AI) 工具現在代表我們管理這些資訊 - 整理、總結並將其呈現給我們。
但這種將資訊管理「外包」給人工智慧的做法——儘管很方便——也會帶來後果。 它不僅可以影響 什麼 我們認為，但也有可能 如何 我們認為。
當人工智慧演算法決定哪些資訊可以永久保存、哪些資訊被遺棄時，會發生什麼事？
個性化人工智慧的興起
生成式 AI 工具建立在經過數百 GB 資料訓練的模型之上 預先存在的數據。 他們從這些數據中學習如何自主創建文字、圖像、音訊和視訊內容，並可以透過拼湊「最有可能」的答案來回應用戶的查詢。
ChatGPT 的使用者 人山人海，儘管公開發布還不到一年。 XNUMX月，新增 自訂回應 讓已經令人印象深刻的聊天機器人變得更有用。 此功能允許用戶保存自訂指令，解釋他們使用機器人的目的以及他們希望機器人如何回應。
這是「個人化人工智慧」的幾個例子之一：一類人工智慧工具，可以產生滿足用戶特定需求和偏好的內容。
另一個例子是 Meta 最近推出的 虛擬助手，元人工智慧。 這個聊天機器人 可以在 Meta 的平台（包括 WhatsApp、Messenger 和 Instagram）上進行對話、產生圖像並執行任務。
人工智慧研究員、DeepMind 共同創辦人 Mustafa Suleyman， 介紹 個人化人工智慧更多是一種關係，而不是一種技術：
這是一個朋友。 [...] 它真的會永遠存在並陪伴在您身邊，與您一起生活 - 基本上是在您的團隊中。 我喜歡把它想像成有一位偉大的教練在你身邊。
但這些技術也存在爭議，人們擔心 資料擁有權, 偏見 和 誤傳.
科技公司正在努力尋找解決這些問題的方法。 例如，Google已將來源連結新增至其人工智慧產生的搜尋摘要。 搜索生成體驗 （SGE）工具，今年早些時候受到批評 奉獻 不準確且有問題的反應。
科技改變了我們的思維
生成式人工智慧工具——尤其是那些為我們量身定制的工具——將如何改變我們的思維方式？
為了理解這一點，讓我們回顧一下 1990 世紀 XNUMX 年代初，當時網路首次進入我們的生活。 人們突然可以獲得幾乎所有事物的信息，無論是銀行、烘焙、教學還是旅行。
近 30 年來，研究顯示與全球「蜂巢思維」的連結如何改變了我們的認知、記憶和創造力。
例如，可以立即存取相當於 305.5十億頁 資訊的普及增加了人們的 元知識 ——那就是他們對知識的知識。 其影響之一是“Google效應」：線上搜尋提高了我們查找資訊的能力，但減少了我們對資訊內容的記憶的現象。
一方面，將我們的思維轉移到搜尋引擎已被證明可以釋放我們的心理儲備 解決問題和創造性思維。 另一方面，線上資訊檢索與增加相關。 注意力分散和依賴性.
研究還表明，在線搜索——無論檢索到的信息的數量或質量如何——都會提高我們的搜索效率。 認知自尊。 換句話說，它增加了我們對自己「聰明」的信心。
結合這一事實 詢問資訊是費力的 – 我們越信任我們的搜尋引擎，我們就越不挑剔 參與其結果 ——你就會明白為什麼獲得前所未有的大量資訊並不一定會讓我們變得更聰明。
我們應該「外包」我們的思維嗎？
今天的生成式人工智慧工具不僅僅是向我們提供搜尋結果。 他們為我們找到訊息，對其進行評估、綜合並將其呈現給我們。
這可能意味著什麼？ 如果不推動以人為主導的品質控制，前景並不樂觀。
生成式人工智慧能夠產生熟悉、客觀和有吸引力的反應，這意味著它讓我們更容易受到 認知偏差.
自動化偏差例如，人類傾向於高估機器來源資訊的完整性。 還有 單純的曝光 效果是當我們更有可能信任那些熟悉或個人的資訊時。
對社群媒體的研究可以幫助我們了解此類偏見的影響。 Facebook 用戶在 2016 年的一項研究中報告稱 感覺更“了解” 基於線上發布的新聞內容的數量，而不是他們實際閱讀的數量。
我們還知道“過濾氣泡由社群媒體演算法創建的——我們的資訊流根據我們的興趣進行過濾——限制了我們接觸到的內容的多樣性。
這種資訊縮小的過程已被證明可以增加 意識形態兩極化 透過減少人們考慮其他觀點的傾向。 它也被證明可以增加我們接觸到的可能性 假消息.
使用人工智慧來提高智慧，而不是愚昧無知
毫無疑問，生成式人工智慧是一股革命性的力量，有潛力為社會做出偉大的事。 它可以透過提供重塑我們的教育體系 個性化內容，透過加快改變我們的工作實踐 寫作和資訊分析，並推動邊界 科學發現.
它甚至有可能透過幫助我們與他人溝通和聯繫來積極改變我們的關係，有時可以充當 綜合陪伴形式.
但如果我們判斷未來的唯一方法是回顧過去，那麼也許現在是時候反思網路和社群媒體如何改變了我們的認知，並應用一些 預防措施。 發展 人工智慧素養 是一個很好的起點，設計鼓勵人類自主和批判性思考的人工智慧工具也是如此。
最終，我們需要了解自己的 以及人工智慧的優點和缺點 確保這些「會思考」的夥伴幫助我們創造我們想要的未來，而不是碰巧排在首位的未來。
莎拉·薇薇安·本特利，研究科學家，負責任的創新，Data61， CSIRO; 克萊爾·梅森, 首席研究科學家, CSIRO和 艾納特‧格林伯格，技術與社會科學博士後研究員， CSIRO
