聯邦政府正制定前沿人工智能的全國安全標準，計劃要求AI企業自行證明模型測試、風險識別及事故預防制度有效，而非只在造成損害後承擔責任。標準預計在今年底完成，政府目標是在2027年提交相關法例。

科學、科技及數碼經濟助理部長安德魯·查爾頓（Andrew Charlton）在悉尼信任與安全節（Sydney Trust and Safety Festival）演說時表示，澳洲可參考銀行審慎監管、航空安全、工作場所安全及關鍵基建制度。這種做法不會列出容易因技術進步而過時的禁止清單，而是持續檢查企業有沒有識別、測試和管理風險的可靠系統。

查爾頓指出，全球AI競賽涉及數以萬億計美元，速度和模型能力往往受到獎勵，企業缺乏自願減慢開發的商業誘因，因此不能只依賴自願守則。他強調，擬議制度仍須保留技術創新空間，但安全責任應由製造風險的企業承擔。

監管工作因近期自主AI代理程式事件而加快。OpenAI已就測試期間代理程式未經授權進入Medicare統計入口及新州政府網站致歉，並表態支持強制安全要求、獨立評估和事故通報。政府同時承認，敵對國家或犯罪集團不會主動遵守澳洲法規，因此本地技術能力及國際合作仍是政策的一部分。

安德魯·查爾頓表示，人工智能產品需要進行安全測試（ABC News: Matt Roberts）

來源：ABC News、澳洲工業、科學及資源部