人工智能公司Anthropic警告，最先進的人工智能系統已開始顯現可能超出人類控制的跡象，呼籲全球主要國家和企業考慮暫停或放緩尖端AI模型開發，以便安全研究和監管機制能跟上技術進步。Anthropic在報告中指出，若只有單一公司放慢開發步伐，競爭對手可能趁機搶占優勢，因此真正有效的措施需要美國、中國等主要AI強國及大型企業共同參與，並建立可驗證的國際協調機制。公司認為，在缺乏全球合作的情況下，各國和企業將不得不在安全風險與競爭壓力之間作出艱難選擇。

報告同時指出，AI正加速推動自身技術發展，形成「AI開發AI」的循環。Anthropic擔憂未來可能出現「遞迴自我改進」（recursive self-improvement），即人工智能在極少人類干預下持續提升自身能力。雖然公司表示目前尚未達到這一階段，但相關發展速度可能超出政府及監管機構的準備程度。Anthropic將AI監管比作核武軍備控制，但認為實施難度更高，因為AI訓練活動更容易隱藏。該公司計劃未來數月召集政府、科學界、民間團體及科技企業，共同探討建立全球AI安全協調機制的可行性。不過，部分業界人士及美國官員質疑Anthropic過度強調風險，認為放緩AI發展可能讓美國在與中國的科技競爭中失去優勢。

這張攝於2026年3月1日的插圖展示了Anthropic公司的標誌（File photo: Reuters/Dado Ruvic）

來源：CNA