加州州長紐森(Gavin Newsom)週日否決一項備受爭議的AI安全法案，該法案因科技產業強烈反對而引發熱議，部分產業領袖認為該法案可能驅使AI企業離開加州並阻礙在地創新發展。
該法案要求對一些最先進的AI模型進行安全測試，這些模型的開發成本至少超過一億美元，或需要使用大量的運算資源。法案還要求AI軟體開發商提供「關閉機制」，以便在必要時能夠關閉AI模型。同時，該法案還涉及成立一個州級監管機構，負責監督所謂的「前沿模型」，這些模型的能力超越現有的最先進技術。
紐森在聲明中表示，該法案「並未考慮到AI系統是否配置在高風險環境裡、是否涉及做出關鍵性決定、或是否使用到敏感資料」，而且一旦通過法案，大型系統只要安裝AI，即使是執行最基本功能，也要面對最嚴格標準的監管，因此他認為這可能對AI行業帶來不必要的阻礙。
紐森進一步說明，他已請求生成式AI領域的頂尖專家協助加州「發展可行的安全規範」，並強調「以實證、科學為基礎的軌跡分析」是制定政策的核心。紐森還指示州政府機構，擴大評估對於AI使用相關的潛在災難性風險，顯示對AI技術快速發展的高度防範。
生成式AI是一種能根據開放式指令創建文本、圖片和影片的技術。這項技術雖然能激發無數的商業機會，但也引發AI可能取代人類工作、顛覆選舉並對社會造成災難性影響的隱憂。
該法案的作者、民主黨州參議員維納(Scott Wiener)指出，立法對於在AI技術失控前保護公眾安全至關重要。維納對紐森的否決感到遺憾，並表示這將使「加州變得更不安全」，並強調「自願承諾對於行業來說並不具約束力，且很少能有效保障公眾利益」。維納提出預警，「我們不該等到重大災難發生後，才採取行動來保護公眾」。
然而，這項法案招致多方反對聲浪，包括Alphabet(Google母公司)、微軟(Microsoft)支持的OpenAI，以及Meta平台等，這些公司都是開發生成式AI模型的佼佼者。
目前，美國國會對於AI管制的立法項目陷入停滯，拜登政府則在積極推進監管AI的提案。科技產業聯盟「進步商會(Chamber of Progress)」讚揚紐森的否決，認為「加州科技經濟一直依賴於競爭和開放的環境，因此過度的監管將損害加州作為全球科技領導者的地位」。
與此同時，紐森已簽署另一項法律，要求州政府評估生成式AI對加州關鍵基礎設施所構成的潛在威脅。該州目前正在分析能源基礎設施的風險，並計劃在未來一年內對水資源基礎設施進行同樣的風險評估，後續還會對通訊領域進行風險分析。
這項AI安全法案的否決再次引發關於科技創新與公共安全之間的平衡問題，隨著AI技術的迅速發展，如何在促進創新的同時保障公眾利益，將是未來立法的關鍵挑戰。
