人工智能公司Anthropic警告，最先进的人工智能系统已开始显现可能超出人类控制的迹象，呼吁全球主要国家和企业考虑暂停或放缓尖端AI模型开发，以便安全研究和监管机制能跟上技术进步。Anthropic在报告中指出，若只有单一公司放慢开发步伐，竞争对手可能趁机抢占优势，因此真正有效的措施需要美国、中国等主要AI强国及大型企业共同参与，并建立可验证的国际协调机制。公司认为，在缺乏全球合作的情况下，各国和企业将不得不在安全风险与竞争压力之间作出艰难选择。

报告同时指出，AI正加速推动自身技术发展，形成「AI开发AI」的循环。Anthropic担忧未来可能出现「递回自我改进」（recursive self-improvement），即人工智能在极少人类干预下持续提升自身能力。虽然公司表示目前尚未达到这一阶段，但相关发展速度可能超出政府及监管机构的准备程度。Anthropic将AI监管比作核武军备控制，但认为实施难度更高，因为AI训练活动更容易隐藏。该公司计划未来数月召集政府、科学界、民间团体及科技企业，共同探讨建立全球AI安全协调机制的可行性。不过，部分业界人士及美国官员质疑Anthropic过度强调风险，认为放缓AI发展可能让美国在与中国的科技竞争中失去优势。

这张摄于2026年3月1日的插图展示了Anthropic公司的标志（File photo: Reuters/Dado Ruvic）

来源：CNA