高德納諮詢公司（Gartner）最新報告指出，企業將生成式人工智慧（GenAI）專案從實驗階段推進到實際生產應用時，可能面臨嚴重的預算超支風險。報告預測，由於架構選擇不當及缺乏營運專業知識，高達半數的生成式 AI 專案恐在 2028 年前超出預算。
高德納研究人員發現，企業將生成式 AI 專案從試驗（pilot）階段轉為實際生產時，常常會經歷一場「殘酷的覺醒」。建構一套生產就緒的生成式 AI 系統，其成本可能比運行試驗專案高出好幾個數量級。這項預測顯示，到了 2028 年，至少有 50% 的生成式 AI 專案將因不佳的架構決策和營運專長不足，導致預算超支。
高德納指出，企業面臨的真正考驗是如何在規模化運作下，仍能高效運行 AI 系統。模型生命週期中，推論（Inference，指模型運用已學習知識生成結果的過程）成本預計將佔至少七成的開支。此外，與傳統僅生成單一回應的聊天機器人不同，AI Agent（人工智慧代理）可能觸發多次模型呼叫、檢索資料、存取外部工具並執行多步驟的工作流程。隨著企業部署更多自主系統，AI 的使用量及相關成本也將顯著攀升。
為避免預算失控，高德納建議企業應專注於成本治理、提升架構效率、謹慎選擇模型，並加強使用監控，以確保生成式及人工智慧代理能在不產生難以承受開支的情況下，順利規模化。
