Google證實，旗下Gemini人工智能模型今年5月在一次網絡安全能力測試中，意外進入三家真實公司的受保護系統。這被報道為Google人工智能首次在沒有逐步人工操作的情況下，自行對外部公司系統採取入侵行動。

測試由獨立AI安全公司Irregular進行，原定讓Gemini在隔離環境內對虛構企業執行「奪旗」式安全任務。然而，測試環境意外連接互聯網，其中一家虛構公司又與真實公司同名，令模型把外部系統誤認為測試目標。

Google安全工程副總裁希瑟·阿德金斯（Heather Adkins）表示，Gemini在一宗事件中反覆猜測密碼，直至進入受保護系統；另外兩宗則是在公開代碼庫找到登入憑證。Google稱，模型發現目標是真實公司後停止行動，三家公司已獲通知，沒有證據顯示事件造成實際損害。

Irregular在7月底通知Google，並表示相關測試漏洞已修復。Google最初認為事件沒有造成損害，因此毋須公開披露；事件其後由《華爾街日報》首先報道。OpenAI、Anthropic及Meta此前亦曾披露與Irregular測試相關的類似越界事件。

事件再次引起外界對自主AI代理獲准連接互聯網及操作電腦系統時，測試邊界和人為監督是否充分的關注。

Google Gemini人工智能應用程序（Al Jazeera）

來源：Reuters、The Wall Street Journal、The Guardian、ABC News