人工智能如何有可能徹底改變醫療保健
蓋蒂圖片社

人工智能 (AI) 發展迅速,將成為臨床護理的重要支持工具。 研究表明人工智能算法可以準確 檢測黑色素瘤預測未來的乳腺癌.

但在將 AI 整合到常規臨床使用之前,我們必須解決算法偏差的挑戰。 人工智能算法可能存在固有偏見,可能導致歧視和隱私問題。 人工智能係統也可以在沒有必要的監督或人工輸入的情況下做出決策。

 人工智能潛在有害影響的一個例子來自 國際項目 旨在通過開發突破性的醫療方法,利用人工智能來拯救生命。 在一項實驗中,該團隊顛倒了他們的“好”人工智能模型,為新的人工智能模型創造了“傷害”的選項。

在不到六個小時的訓練中,反向 AI 算法生成了數万種潛在的化學戰劑,比目前的戰劑危險得多。 這是一個關於化合物的極端例子,但它可以作為評估人工智能已知和可以想像的不可知倫理後果的警鐘。

臨床護理中的人工智能

在醫學領域,我們處理人們最私密的數據和經常改變生活的決定。 強大的 AI 道德框架勢在必行。

澳大利亞癲癇項目 旨在改善人們的生活並使臨床護理更廣泛。 基於來自數千名癲癇患者的先進腦成像、遺傳和認知信息,我們計劃使用人工智能來 回答目前無法回答的問題.


內在自我訂閱圖形


這個人的癲癇發作會繼續嗎? 哪種藥最有效? 腦部手術是可行的治療選擇嗎? 這些是現代醫學努力解決的基本問題。

作為該項目的 AI 負責人,我主要擔心的是 AI 正在快速發展,而監管監督卻很少。 這些問題就是為什麼我們最近建立了一個 倫理框架 使用 AI 作為臨床支持工具。 該框架旨在確保我們的人工智能技術是開放、安全和值得信賴的,同時促進臨床護理的包容性和公平性。

那麼我們如何在醫學中實施 AI 倫理以減少偏見並保持對算法的控制? 計算機科學原則“垃圾輸入,垃圾輸出”適用於 AI。 假設我們從小樣本中收集有偏差的數據。 我們的 AI 算法可能會存在偏差,並且無法在其他臨床環境中復制。

在當代人工智能模型中不難找到偏見的例子。 流行的大型語言模型(例如 ChatGPT)和潛在擴散模型(DALL-E 和 Stable Diffusion)展示瞭如何 明顯的偏見 關於性別、種族和社會經濟地位的問題可能會發生。

研究人員發現,簡單的用戶提示會生成使種族、性別和階級刻板印象永久化的圖像。 例如,對醫生的提示 主要產生 男醫生的圖像,這與現實不符,因為經合組織國家大約一半的醫生是女性。

醫療人工智能的安全實施

防止偏見和歧視的解決方案並非易事。 在臨床研究中實現健康平等和促進包容性可能是其中之一 主要解決方案 打擊醫療人工智能中的偏見。

令人鼓舞的是,美國食品和藥物管理局最近提出 使多樣性成為強制性的 在臨床試驗中。 該提案代表了朝著較少偏見和基於社區的臨床研究邁進。

另一個阻礙進步的障礙是有限的研究經費。 人工智能算法通常需要大量數據,這可能很昂貴。 至關重要的是建立強化的資助機制,為研究人員提供必要的資源,以收集適合 AI 應用的臨床相關數據。

我們還認為,我們應該始終了解 AI 算法的內部工作原理,並了解它們是如何得出結論和建議的。 這個概念在人工智能中通常被稱為“可解釋性”。 它涉及人和機器必須協同工作以獲得最佳結果的想法。

我們更願意將模型中預測的實施視為“增強”而不是“人工智能”——算法應該是過程的一部分,而醫學專業必須保持對決策的控制。

除了鼓勵使用可解釋的算法外,我們還支持透明和開放的科學。 科學家應該公佈人工智能模型及其方法的細節,以提高透明度和可重複性。

新西蘭 Aotearoa 需要什麼來確保 AI 在醫療保健中的安全實施? 人工智能倫理問題主要由該領域的專家領導。 然而,有針對性的 AI 法規,例如基於歐盟的 人工智能法 已經提出,解決這些倫理問題。

歐洲人工智能法受到歡迎,並將保護在“安全人工智能”中工作的人。 英國政府最近發布了他們的 人工智能監管的積極方法,作為其他政府應對人工智能安全的藍圖。

在 Aotearoa,我們主張對 AI 安全採取主動而非被動的態度。 它將建立一個在臨床護理和其他領域使用人工智能的道德框架,產生可解釋、安全和公正的人工智能。 因此,我們將更加相信這項強大的技術可以造福社會,同時保護社會免受傷害。談話

關於作者

芒果彼得森, 心理學和神經科學副教授, 奧克蘭理工大學

本文重新發表 談話 根據知識共享許可。 閱讀 原創文章.

相關書籍:

身體記錄分數:創傷癒合中的大腦和身體

作者:Bessel van der Kolk

這本書探討了創傷與身心健康之間的聯繫,提供了治療和恢復的見解和策略。

點擊了解更多信息或訂購

呼吸:失落藝術的新科學

通過詹姆斯·內斯特

這本書探討了呼吸的科學和實踐,提供了改善身心健康的見解和技巧。

點擊了解更多信息或訂購

植物悖論:導致疾病和體重增加的“健康”食品中的隱患

通過 Steven R. Gundry

這本書探討了飲食、健康和疾病之間的聯繫,提供了改善整體健康狀況的見解和策略。

點擊了解更多信息或訂購

免疫密碼:真正健康和徹底抗衰老的新範式

喬爾·格林

這本書提供了一個關於健康和免疫的新視角,借鑒了表觀遺傳學的原理,並提供了優化健康和衰老的見解和策略。

點擊了解更多信息或訂購

完整的禁食指南:通過間歇性、隔日和延長禁食來治愈您的身體

作者:Jason Fung 博士和 Jimmy Moore

本書探討了禁食的科學和實踐,提供了改善整體健康和保健的見解和策略。

點擊了解更多信息或訂購