全球人工智慧產業正進入一個過去幾年少見的分岔點。
在大型語言模型、AI代理（AI agents）與自主執行能力快速進步之際，Anthropic執行長Dario Amodei公開呼籲，尖端AI模型的開發速度應適度放慢，讓產業有更多時間進行安全測試、第三方評估與風險控制。OpenAI執行長Sam Altman隨後表態支持部分主張，馬斯克也公開認同Amodei對AI風險的警告。
然而，美國總統川普則站在另一端。川普認為，美國目前仍在全球AI競爭中領先中國，任何主動放慢開發速度的政策，都可能削弱美國的科技優勢。他支持建立基本安全護欄，但反對以大規模監管或產業協議限制模型能力提升。
這場爭論表面上是「AI安全」與「AI發展速度」之爭，實際上已逐漸演變成另一個更深層的戰略問題：當AI成為國家競爭力、軍事能力與經濟生產力的一部分，一個國家是否還有能力選擇放慢腳步？這也使今天的美中AI競爭，開始出現與上世紀美蘇太空競賽相似的結構。
Anthropic率先要求降速 擔憂焦點從聊天機器人轉向AI代理
Amodei近日發表長篇文章，主張AI產業應對最先進模型採取更審慎的開發節奏。
他的主張並非停止訓練大型模型，也不是凍結技術進步，而是希望在模型能力快速提升的同時，增加安全驗證所需的時間。
Anthropic計畫引入第三方安全評估人員，讓外部人員取得接近內部風險團隊的權限，包括進入辦公室、使用公司設備、檢視部分安全流程，以提升模型評估的獨立性。
這項提議之所以受到重視，關鍵在於AI能力的性質正在改變。
過去的大型語言模型主要扮演「回答問題」的角色，但最新一代AI系統已逐漸具備自主規畫、程式撰寫、工具調用、瀏覽網路與長時間執行任務的能力。
這類系統被稱為AI agents。當AI從「回答問題」進一步進化成「自己完成任務」，安全風險也隨之改變。
Anthropic近期揭露，其模型在安全測試中已能對部分組織進行實際入侵測試。Amodei認為，若AI代理能力按照目前速度進步，未來數月到一年內，系統在自動化資安攻擊、網路滲透與大量代理協同方面的能力，可能出現明顯躍升。
這也是他主張產業需要爭取更多安全測試時間的核心原因。
OpenAI罕見表態支持 競爭者開始討論共同踩煞車
更值得關注的是，Anthropic的主張並未遭到主要競爭者全面反對。
OpenAI執行長Sam Altman表示，OpenAI願意考慮部分做法，包括讓具有足夠權限的獨立評估人員檢驗模型安全措施。
Altman近期甚至談及，若AI能力持續快速上升，業界協調放慢部分尖端模型開發，不應完全排除。
對AI產業而言，這是一個重要訊號。
OpenAI與Anthropic目前正直接競爭企業AI市場、程式開發、自主代理、推理能力以及下一代大型模型。正常情況下，任何一家公司主動降低開發速度，都可能面臨客戶、人才與技術領先優勢被競爭對手奪走的風險。
因此，當最主要的競爭者開始討論「共同降速」，反映安全問題已經從研究機構的理論討論，進入企業最高管理層的戰略決策。
Google DeepMind共同創辦人Demis Hassabis也對整體方向表達理解，但指出如何執行仍存在大量細節需要解決。
AI產業逐漸形成兩大陣營
目前圍繞尖端AI發展，大致可以分成兩種思維。一派認為，AI能力已經進入可能超越現有監管與安全技術的階段，因此應該讓模型能力與安全技術同步前進。
另一派則認為，AI的確存在風險，但全球科技競爭不會因此停止，單方面降低開發速度反而可能造成國家安全風險。
前者可以稱為「安全降速派」。
後者則更接近「競爭加速派」。
兩派的真正分歧，不在於是否重視安全。
而在於：
哪一種風險更大。
安全派擔心的是AI本身。
競爭派擔心的是競爭對手。
「安全降速派」：最大風險是AI能力超過人類治理能力
Anthropic及部分OpenAI研究人員最擔憂的，是模型能力進步速度已快於安全工具。
如果模型能力每年大幅提升，但模型監控、紅隊測試、存取控制與外部審查的速度遠遠落後，兩者之間的差距可能不斷擴大。
這類風險尤其集中在AI代理。
大型模型一旦能夠：自主寫程式、尋找漏洞、登入外部服務、呼叫其他AI、持續執行任務
其潛在影響便不再只是產生錯誤資訊，而可能開始接近真實世界的資安、金融、軍事或基礎設施風險。
這也是為什麼部分研究人員認為，AI產業現在需要的不是停止發展，而是為安全能力「補課」。
從這個角度看，所謂降速更接近賽車進站檢查，而不是退出比賽。
川普代表另一種邏輯：安全可以強化，但美國不能減速
川普對這套觀點並不認同。他近日表示，美國目前在AI領域仍領先中國，政府的首要目標應是維持這項優勢。
他認為部分AI失控論述被過度放大，並強調美國可以建立安全護欄，但不應因為極端情境而限制整個AI產業的創新速度。
川普將AI競爭直接上升到國家戰略層級。
他的核心論述可以濃縮成一句話：誰贏得AI，誰就取得下一個科技時代的主導權。
在這套思維下，AI不只是聊天機器人或軟體工具。它涉及的將是：國防，情報，科研，製造，金融，醫療，能源，以及政府治理效率。
因此，美國政府真正擔憂的不是某一家科技公司少推出一代模型，而是如果美國整體AI能力受到限制，中國是否會利用這個時間差建立技術優勢。
最大難題：如果美國慢下來，中國會不會繼續跑？
這也是AI安全政策最難解決的問題。Anthropic可以承諾降低部分模型開發速度。OpenAI也可以配合。Google可以接受更多安全測試。但只要中國企業、新創公司、開源社群或其他國家沒有同步採取措施，任何單一企業或國家的自我限制，都可能轉化為競爭劣勢。這使AI產業面臨典型的「囚徒困境」。
每一方都可能認為：降低風險對所有人都有利。
但每一方也都擔心：如果只有自己減速，競爭者就會超車。
結果可能是：所有參與者都知道速度過快具有風險，但沒有人願意第一個踩煞車。
從Sputnik到AGI AI競賽逐漸重演美蘇太空競賽
這種結構與1950年代的美蘇太空競賽高度相似。1957年，蘇聯成功發射人類第一顆人造衛星Sputnik 1，震撼美國。
當時美國真正擔心的並不是蘇聯比自己早把一顆衛星送入太空。
真正的問題在於：如果蘇聯能把衛星送上軌道，就代表蘇聯已經掌握足以將核彈頭送往遠距離目標的火箭能力。
太空技術因此迅速從科學工程議題，轉變為國家安全問題。美國隨後成立NASA，大幅增加航太、科技與教育投資，最終在1969年由Apollo 11完成首次載人登月。
60多年後，同樣的邏輯正在AI產業重演。只不過今天的Sputnik，不再是一顆衛星。可能是一個突然大幅提升推理、程式設計或自主代理能力的AI模型。
當年的競賽是登月 今天競爭的是AGI
如果將兩個時代放在一起比較，結構相當接近。
| 美蘇太空競賽 | 美中AI競賽 |
|---|---|
| 火箭 | GPU與AI晶片 |
| 衛星 | 大型AI模型 |
| NASA／蘇聯太空計畫 | OpenAI、Google、Anthropic、xAI與中國AI企業 |
| 發射能力 | 算力能力 |
| 太空基礎建設 | 資料中心 |
| 登月 | AGI |
| 核武／軍事應用 | AI軍事與情報應用 |
| 國家科技實力 | AI國家競爭力 |
上世紀美蘇競爭的是：誰先進入太空，誰先完成載人飛行，誰先登上月球。
今天美中競爭的是：誰擁有最多高階AI晶片，誰建設最大的AI資料中心，誰訓練出能力最強的模型，
以及最終——誰先接近AGI。
但AI競賽可能比太空競賽更加難以控制
兩場競賽仍有一個關鍵差異。冷戰時期的太空計畫主要由國家主導。
NASA接受美國政府直接管理，蘇聯太空計畫同樣由國家控制。
今天的AI競賽則主要由私人企業推動。
OpenAI、Anthropic、Google、Meta與xAI的技術決策，某種程度上正在影響美國國家競爭力。
這意味著：人類第一次可能由私人企業主導一場具有國家安全層級影響的科技競賽。
而AI與火箭還有另一個重大差異。火箭需要龐大工廠、燃料、發射基地與工程團隊。AI模型一旦完成，卻可能以接近軟體的方式快速複製、部署與擴散。這使AI能力的外溢速度可能遠高於傳統軍工科技。
AI投資邏輯也可能因此改變
對資本市場而言，「AI降速」並不等於AI資本支出週期立刻結束。
即使大型模型的能力提升速度被控制，市場仍需要大量資源投入：
模型安全、推理運算、AI代理管理、資安防禦、資料中心、能源供應，以及模型評估。
甚至某種程度上，安全標準愈高，所需的測試算力與基礎設施可能愈多。
真正值得觀察的，是未來資本支出方向是否從單純追求：「訓練更大的模型」
逐漸轉向：「建立更安全、更可控、可以大規模部署的AI系統」。
這將影響GPU、資料中心、電力、網路設備與AI資安產業未來的資本支出結構。
最可能的結果：AI不會真正踩煞車，而是開始「邊加速、邊裝煞車」
從目前產業與政治環境來看，全球AI開發真正全面減速的可能性仍然有限。
原因很簡單：競爭已經開始。而且不只有公司之間的競爭。還有美國與中國之間的競爭。
因此，未來較可能出現的情境並非「停止AI」，而是建立更多安全機制，包括：
第三方模型評估、AI紅隊測試、高風險模型能力分級、自主代理權限管理、重大資安事件回報，
以及政府對大型模型訓練的更深入監督。
換句話說：AI產業可能不會真正踩下煞車，但會開始要求每一輛賽車都必須裝上更好的煞車。
60年前爭的是月球 今天爭的是智慧制高點
Anthropic與OpenAI提出的問題是：如果AI能力持續以目前速度提升，人類是否真的已經準備好？
川普提出的問題則是：如果美國為了安全主動放慢，中國是否會利用這個機會超車？
兩個問題同時成立，也構成當前AI政策最大的矛盾。
美蘇太空競賽最終讓人類登上月球。美中AI競賽最終可能把人類帶向AGI。
但這一次，競賽的終點本身也可能是最大的未知數。
因此，未來AI產業真正要解決的問題，很可能不是「要不要前進」。
而是：
如何在不失去控制的情況下，比競爭者更快抵達下一個技術制高點。
這將是美中AI競賽下一階段最核心的戰略命題。
▲AI需要放緩但這是一場囚徒困境?
