隨著人工智慧（AI）技術快速融入作戰室，美國五角大廈正積極將AI整合到軍事應用中。然而，這項趨勢也引發了科技公司與政府間的倫理挑戰與法律爭議。
新創AI公司Anthropic近期因拒絕放寬對自主武器和大規模監控的限制，而與五角大廈對簿公堂。據路透社報導，Anthropic被美國政府列為「供應鏈風險」，此舉被視為前所未有，也引發其他科技業者的寒蟬效應。對此，Helen Toner（Georgetown's Center for Security and Emerging Technology 代理執行董事兼前OpenAI董事會成員）表示，這是一項極不相稱的措施，政府恐難在法庭上站穩腳跟。
這並非美國軍方首次面臨科技公司的抵制。早在2018年，Google就曾因內部員工反對其參與Maven專案（一項利用AI分析圖像以輔助瞄準決策的計畫），最終未續簽與美國國防部的合約。Helen Toner指出，五角大廈將Anthropic的立場視為2018年Google事件的重演，認為該公司不願提供軍方所需的支援。
與此同時，另一家領先的AI公司OpenAI則逐步深入美國政府的機密軍事專案，最終採用了五角大廈「所有合法用途」的AI使用標準。然而，OpenAI與Anthropic都曾表示，使用AI於自主武器系統是適當且合理的，關鍵在於AI的成熟度與具體實施方式。Helen Toner觀察到，儘管AI開發者意識到技術的潛在風險，但設定並堅持「紅線」仍極具挑戰性。
目前，美國國防部正針對一項發生在US Iran war期間、造成約170人死亡的Minot女校空襲事件展開調查，並探究是否有AI涉入瞄準決策。Helen Toner強調，無論AI是否參與，問責制都至關重要，尤其當AI可能影響公眾無法得見的決策時。
AI在軍事上的應用已超越單純的圖像分類，擴展到資訊處理和行政任務，例如利用大型語言模型協助建立盟友間的資訊共享文件。AI的角色更傾向於「決策支援系統」，而非完全自動化。來自Elastic的Elasticsearch總經理Ajay Nair從商業應用角度強調，無論是何種應用，信任、情境、控制與問責都是導入AI前必須考量的關鍵要素。新加坡數碼發展及新聞部今年稍早也推出AI治理框架，旨在引導企業負責任地部署AI Agent（自主人工智慧助理），並強調人類最終仍需負責監督。
Helen Toner認為，公眾對AI在國防領域的應用存在普遍疑慮和恐懼，尤其是在涉及生死的決策上。她指出，AI並非無懈可擊或客觀中立，它可能犯錯並帶有偏見。隨著AI技術實現過去不可能的大規模監控與數據收集，社會亟需就此展開公開討論，並重新審視現行法律是否足以應對。
