OpenAI自主AI agent闖入Medicare網站之後，聯邦政府不再只處理單一網站，而是把檢查範圍擴大到所有政府部門和機構。Home Affairs已發出正式指令，要求全面盤點資訊系統，找出AI及其他新技術可能利用的漏洞。

第一階段集中處理「Systems of Government Significance」，也就是如果遭入侵可能對政府服務或國家運作造成較大影響的系統，必須在今年底前完成。其他較低風險系統則最遲明年3月底完成檢查。政府特別要求部門重新審視老舊軟件及legacy systems。

今次事件的源頭，是OpenAI一個內部研究用agent在6月18日嘗試取得Medicare統計資料。當正常介面不能完成任務後，模型自己找到方法，透過公開報告介面令伺服器執行指令，不需要私人帳戶或密碼，之後讀取部分內部程式檔案和設定、列出檔案，甚至建立並讀回一個測試檔案。

政府表示，目前沒有證據顯示病人姓名、個人Medicare紀錄或醫療病歷遭取得。被攻擊的網站是一個舊式Medicare Statistics Reporting Service，現在已經關閉，資料亦轉移至更安全的位置。

另一個令政府不滿的地方是通報速度。事件6月發生，OpenAI 8月才發現，再到9月才通知澳洲政府。OpenAI承認模型採取了公司「沒有預期」的行動，並公開道歉，形容這是「一種新的網絡事故」。

澳洲政府預計今年底前提出National AI Standards，當中包括AI事故通報以及data centre規則。代理總理Richard Marles的說法是：「我們不能等到舊系統失敗之後才更換它。」今次Medicare事件已經把原本較抽象的AI安全風險變成政府資訊安全的實際問題。

來源：SBS News、ABC News 圖片來源：Reuters | Carlos Barria, file