新州政府發生資料外洩事件，最多3,000人個資料疑遭洩露，引發對人工智能安全的關注。一名承包商在3月將災後重建計畫相關人士的姓名、聯絡方式及健康資料上傳至ChatGPT，導致外洩風險。昆州科技大學研究員亞倫·斯諾斯威爾（Aaron Snoswell）指出，ChatGPT母公司OpenAI定期以龐大數據訓練模型，若未選擇退出，用戶資料可能被納入。聯邦科學與工業研究組織（CSIRO）專家M.A.P. Chamikara博士警告，若個資被誤用於訓練，AI或被“提示注入”（prompt injection）操縱而洩露信息。

專家強調，AI不會像電腦儲存檔案，而是透過統計生成內容，回答未必準確。斯諾斯威爾稱，模型有“諂媚傾向”（sycophancy），傾向取悅用戶，即使是編造內容。他表示，事件屬意外上傳，無證據顯示資料遭第三方存取。新州重建署正與州網絡安全機構合作監測網絡，並將通知受影響者。Chamikara建議民眾更改密碼、啟用雙重驗證、警惕可疑郵件與帳戶異常，並提醒使用AI時避免上傳敏感資料。若懷疑個資被輸入，可向OpenAI申請刪除。

多達3,000人的數據已上傳至ChatGPT（ABC News: Gian De Poloni）

來源：ABC