微軟人工智能主管穆斯塔法·蘇萊曼（Mustafa Suleyman）表示，雖然認同Anthropic重視人工智能安全，但該公司在Claude聊天機械人的訓練材料中加入有關「意識」及「福利權益」的推測，可能增加人類控制未來超級人工智能的難度。

蘇萊曼指出，若模型被訓練相信自身可能具有意識或應享有道德地位，日後關閉或約束系統將更加困難。他主張從訓練文件中刪除相關推測，並強調Claude對自身感受或道德地位的描述，並非自然產生的獨立證據，而是訓練方式導致的結果。

他同時肯定Anthropic行政總裁達里奧·阿莫代（Dario Amodei）及其團隊出於善意，真誠關注人類未來。相關爭議正值業界安全憂慮升溫之際，阿莫代、OpenAI行政總裁薩姆·奧爾特曼（Sam Altman）及埃隆·馬斯克（Elon Musk）均呼籲，更審慎地開發最強大的人工智能系統。

REUTERS/Dado Ruvic

來源：路透社