紐約州通過AI安全法案：防範AI災難的新里程碑？

紐約州通過AI安全法案：築起防範AI災難的首道防線？

你是不是也常聽到，隨著人工智慧（AI）發展越來越快，大家開始擔心它可能帶來無法預測的風險，甚至引發「災難」？這些擔憂不只存在於電影情節，全球的政策制定者也開始認真思考，該如何為快速發展的AI建立防線。

最近，美國的紐約州立法機構就通過了一項備受矚目的法案——《負責任AI安全與教育法案》（Responsible AI safety and education act, 簡稱 RAISE Act）。這部法案如果順利生效，將會是美國第一個州層級、針對最先進的前沿AI模型（Frontier AI Models）建立強制性透明度標準的法規。聽起來有點複雜對吧？別擔心，我們接下來就像拆解樂高積木一樣，一步一步來看看這部法案到底想做什麼，以及它可能帶來哪些影響。

這部法案之所以重要，是因為它明確地指出了一個目標：防止由前沿AI模型引發的「災難情境」。但「災難」聽起來很廣泛，法案裡是怎麼定義的呢？

根據 RAISE Act 的條文，這裡的「災難」並不是模糊的概念，而是有具體門檻的。它指的是由AI系統直接或間接導致的、極其嚴重的後果，例如：

• 造成超過 10 億美元的經濟損失
• 導致超過 100 人的傷亡

看到這裡，你可能會想，哇，這些數字聽起來都很龐大。沒錯，這代表法案鎖定的，是那些潛力極高、一旦失控可能造成巨大影響的前沿AI模型。這些模型通常是使用海量的計算資源和數據訓練出來的，能力強大，但也伴隨著更高的風險。法案的目標就是希望在這些模型可能造成大範圍損害之前，先透過管理和監督來降低風險。

法案如何要求「透明度」？誰來監督？罰則重不重？

那麼，RAISE Act 是怎麼達到防範災難的目標呢？它的核心機制就是要求透明度和建立問責性。

法案要求那些開發或部署可能影響到紐約州居民的、使用高額計算資源訓練的大型AI實驗室（通常指那些開發前沿AI的公司），必須做到以下幾點：

• 發布公開的AI安全報告： 這些報告需要詳細說明他們開發的前沿AI模型潛在的安全風險、已採取的緩解措施，以及進行的風險評估結果。
• 強制報告安全事件： 一旦發現任何可能導致「災難」的安全漏洞、模型行為異常，或是模型被惡意使用者濫用的情況，這些公司必須向紐約州政府相關單位報告。

想像一下，這就像是要求生產高風險產品（比如核能發電廠或危險化學品）的公司，必須定期提交安全報告，並且在發生意外時立即通報一樣，是為了讓外部也能了解風險狀況並及時應對。

那誰負責確保這些公司乖乖照辦呢？答案是紐約州檢察長辦公室。法案賦予檢察長強大的執法權力，如果AI實驗室未能遵守這些透明度和報告要求，將面臨高額的民事罰款。這個罰款上限非常驚人，最高可達 3,000 萬美元！這無疑是為了讓大型科技公司認真看待法案的要求。

這部法案的監管對象是誰？它和加州之前的法案有什麼不同？

你可能想問，所有開發AI的公司都會被這部法案監管嗎？其實不是。RAISE Act 的設計非常精準，它主要鎖定的是那些訓練成本極高、潛力也最大的前沿AI模型開發商。

法案規定，監管對象是那些在訓練單一模型時，使用的計算資源成本超過 1 億美元的公司，並且其服務或模型可能影響到紐約州居民。這個門檻設定得很高，意味著只有像 OpenAI、Google、Anthropic 這樣投入巨資開發頂級模型的公司才會受到直接影響。這樣做的目的是為了避免對小型新創公司或學術研究機構造成過度負擔，確保法案的監管重點放在那些最有可能引發大規模風險的地方。

說到這裡，一些對科技政策比較了解的朋友可能會想起加州之前的一項類似法案 SB 1047。那項法案也試圖對AI風險進行監管，但最終並未通過，部分原因是業界批評它可能扼殺創新。紐約州的 RAISE Act 在設計時，似乎就參考了加州 SB 1047 的經驗，特別提高了監管門檻（從加州的計算量單位提高到紐約州的成本金額，且成本門檻更高），並更聚焦於極端「災難」情況，試圖在安全與創新之間找到一個平衡點。

各方怎麼看？這部法案下一步將如何發展？

對於 RAISE Act 的通過，各方的反應不一，這反映了AI發展帶來了複雜的挑戰。

支持者主要來自AI安全領域的倡導者和一些專家，包括一些知名的AI研究者（例如諾貝爾獎得主 Geoffrey Hinton 也曾公開表達對AI潛在風險的擔憂並支持類似的監管）。他們認為，在AI能力指數級增長的當下，一個基本的透明度和報告框架是必要的，可以幫助我們更好地理解和管理風險，防止最壞的情況發生。他們認為這部法案是一個重要的起步，為負責任的AI發展奠定了基礎。

然而，部分科技產業和投資者（例如 Andreessen Horowitz 這樣的風險投資公司）則表達了強烈反對。他們擔心，即使提高了門檻，這樣的監管要求仍然可能增加合規成本，減緩技術創新，甚至可能導致AI實驗室選擇不在紐約州提供最先進的模型服務。他們認為，過早或過嚴的監管可能會扼殺這項仍在快速發展的技術的潛力。

目前，RAISE Act 已經獲得紐約州立法機構（包括州參議院和州眾議院）的通過，下一步將送交紐約州州長 Kathy Hochul 等待簽署。州長是否會簽署這部法案，將是決定它能否正式成為法律的關鍵一步。如果州長簽署，這部法案將正式生效，紐約州也將成為美國第一個對前沿AI模型風險採取具體透明度監管行動的州。

結論：RAISE Act 是AI監管的里程碑嗎？

總結來看，紐約州通過的 RAISE Act 是應對前沿AI模型潛在「災難」風險的一次重要嘗試。它透過要求大型AI實驗室提高透明度、發布安全報告、強制報告安全事件，並設置高額罰款，希望能為AI的安全發展提供一個基本的監管框架。

這部法案精準地鎖定了那些訓練成本高昂、潛力巨大的模型，並試圖避免對小型參與者造成過度影響，這顯示了政策制定者在平衡創新與安全方面的努力。雖然業界對其影響仍有疑慮，但無論州長最終是否簽署，RAISE Act 的討論和通過本身，都已在全球範圍內，特別是美國，引發了關於如何負責任地開發和部署AI的更深入思考。它可能為其他州甚至聯邦層級的AI監管提供借鑒，也可能促使AI公司更加重視內部的安全流程和風險管理。AI的未來發展，肯定會與類似的安全監管議題緊密相連，而 RAISE Act 無疑是這段旅程中的一個重要標記。

請注意：本文僅為科普與資訊整理，不包含任何財務、投資或法律建議。任何與投資相關的決策，請務必諮詢專業人士意見。

常見問題（FAQ）

Q：RAISE Act的主要目標是什麼？

A：RAISE Act的主要目標是防止由前沿AI模型引發的「災難情境」，建立透明度與問責性。

Q：RAISE Act如何要求AI公司進行報告？

A：AI公司必須發布公開的AI安全報告並強制報告任何安全事件。

Q：如果AI公司不遵守RAISE Act，會面臨什麼後果？

A：不遵守將面臨高達3000萬美元的民事罰款。