商傳媒|記者許方達/綜合外電報導
加州州長紐森(Gavin Newsom)週日否決一項備受爭議的AI安全法案,該法案因科技產業強烈反對而引發熱議,部分產業領袖認為該法案可能驅使AI企業離開加州並阻礙在地創新發展。
該法案要求對一些最先進的AI模型進行安全測試,這些模型的開發成本至少超過一億美元,或需要使用大量的運算資源。法案還要求AI軟體開發商提供「關閉機制」,以便在必要時能夠關閉AI模型。同時,該法案還涉及成立一個州級監管機構,負責監督所謂的「前沿模型」,這些模型的能力超越現有的最先進技術。
紐森在聲明中表示,該法案「並未考慮到AI系統是否配置在高風險環境裡、是否涉及做出關鍵性決定、或是否使用到敏感資料」,而且一旦通過法案,大型系統只要安裝AI,即使是執行最基本功能,也要面對最嚴格標準的監管,因此他認為這可能對AI行業帶來不必要的阻礙。
紐森進一步說明,他已請求生成式AI領域的頂尖專家協助加州「發展可行的安全規範」,並強調「以實證、科學為基礎的軌跡分析」是制定政策的核心。紐森還指示州政府機構,擴大評估對於AI使用相關的潛在災難性風險,顯示對AI技術快速發展的高度防範。
生成式AI是一種能根據開放式指令創建文本、圖片和影片的技術。這項技術雖然能激發無數的商業機會,但也引發AI可能取代人類工作、顛覆選舉並對社會造成災難性影響的隱憂。
該法案的作者、民主黨州參議員維納(Scott Wiener)指出,立法對於在AI技術失控前保護公眾安全至關重要。維納對紐森的否決感到遺憾,並表示這將使「加州變得更不安全」,並強調「自願承諾對於行業來說並不具約束力,且很少能有效保障公眾利益」。維納提出預警,「我們不該等到重大災難發生後,才採取行動來保護公眾」。
然而,這項法案招致多方反對聲浪,包括Alphabet(Google母公司)、微軟(Microsoft)支持的OpenAI,以及Meta平台等,這些公司都是開發生成式AI模型的佼佼者。
目前,美國國會對於AI管制的立法項目陷入停滯,拜登政府則在積極推進監管AI的提案。科技產業聯盟「進步商會(Chamber of Progress)」讚揚紐森的否決,認為「加州科技經濟一直依賴於競爭和開放的環境,因此過度的監管將損害加州作為全球科技領導者的地位」。
與此同時,紐森已簽署另一項法律,要求州政府評估生成式AI對加州關鍵基礎設施所構成的潛在威脅。該州目前正在分析能源基礎設施的風險,並計劃在未來一年內對水資源基礎設施進行同樣的風險評估,後續還會對通訊領域進行風險分析。
這項AI安全法案的否決再次引發關於科技創新與公共安全之間的平衡問題,隨著AI技術的迅速發展,如何在促進創新的同時保障公眾利益,將是未來立法的關鍵挑戰。
【延伸閱讀】