專家警告，人工智慧（AI）醫療系統恐以令人不安的新方式，在病患毫不知情下侵犯其隱私。《Yahoo News》報導指出，惡意使用者可能對醫療AI系統發動隱私攻擊，使駭客得以得知某人是否曾接受特定疾病治療。
根據英國頂尖科學期刊《自然》（Nature）刊載的研究顯示，新的研究方法或許能判斷特定病患的資料是否曾被用於訓練AI模型。研究人員發現，一種稱為「會員推斷攻擊」（membership inference attack）的駭客手法，可以讓駭客掌握特定病患的資料是否曾被納入模型的訓練數據中。這種攻擊甚至能被用來判斷某人是否罹患癌症，且針對部分個別病患的攻擊成功率幾乎達到「近乎完美」的程度。研究也發現，對於代表性不足的群體，會員推斷攻擊的風險更高。
研究人員強調，駭客可能利用透過隱私入侵取得的健康數據，進一步進行其他形式的攻擊。他們在報告中指出，考量到這類漏洞，醫療AI模型及其部署環境，應針對攻擊者可能透過成功推斷訓練數據成員身份所獲取的敏感資訊，進行嚴格評估，並加強防護以抵禦這類攻擊。
