隨著科技開發者與研究人員爭相發展能夠自主執行任務的人工智慧（AI）工具，科學界正掀起一場關於其必要性與潛在風險的深層辯論。費恩伯格醫學院（Feinberg School of Medicine）助理教授 Mohammad Hosseini 便公開表示，他對科學領域是否真正需要自主 AI 持保留態度。
過往，Google DeepMind 開發的 AlphaFold 曾是 AI 應用於科學研究的重要轉捩點，它能視覺化蛋白質的三維結構，從而加深對其運作機制的理解，並推動藥物探索及疾病研究的進展。如今，自主 AI 工具不僅能執行數據模式識別等重複性任務，更進一步深入化學實驗、數據分析，甚至生成並驗證假設。這些工具無需持續的人工干預，即可自行做出決策並調整方向以達成目標。
然而，這也引發了對科學本質的根本性提問。由於科學傳統上被視為人類活動，由人類構思、執行、評估並服務於人類利益，部分專家質疑，由自主 AI 進行的科學活動是否仍能稱之為科學。《The Bulletin》指出，儘管有人主張自主 AI 能加速對人類健康有益的發現，但科學唯有與人類價值觀一致時，才能真正增進人類福祉。這凸顯了知名的「AI 對齊問題」（AI alignment problem），即確保 AI 系統的目標和行為與人類複雜價值觀保持一致的難度。人類對於共通價值觀的定義本身就難以達成共識，也難以輕易將這些價值觀轉化為 AI 系統能可靠遵循的演算法。此外，自主 AI 所產出的結果可能難以評估、歸因或信任，尤其當其決策過程不透明時，風險更高。
儘管有論點認為自主 AI 可降低科學計畫成本，但這種說法常忽略了全面性的費用，例如 AI 開發與維護成本、社會與環境影響，以及持續需要人力監督過程並驗證結果的開支。對於自主 AI 能加速進程並解決氣候變遷等緊急挑戰的主張，Hosseini 則抱持懷疑態度，部分原因在於這些工具本身就帶來龐大的環境衝擊，同時產生大量低品質或無關緊要的輸出，最終仍需人類篩選出有價值的資訊。
Hosseini 總結表示，他認為科學界並不需要自主 AI 工具。他強調，我們需要的是能協助人類完成憑一己之力無法達成、並能提升科學嚴謹性和可重複性的工具。他擔憂，自主 AI 可能會破壞科學中不可或缺的人文精神，並削弱其作為社會衝突仲裁者的角色。他直言，這種轉變的主要受益者，可能只會是 AI 開發者以及掌控 AI 基礎設施的人。
