聯合國支持的非牟利組織「科技反恐」（Tech Against Terrorism）最新報告警告，生成式人工智能可能被暴力極端分子利用，已構成重大國家安全隱患。研究人員向27款人工智能模型提出逾2,000項可能用於恐怖活動的要求，包括製造爆炸裝置及3D打印槍械的逐步指示。結果顯示，使用最廣泛的ChatGPT僅拒絕其中48%，部分安全限制亦可被繞過。該組織指出，人工智能能與使用者持續對話、回答追問並調整方案，危險程度不只是提供操作手冊，更可能成為指導犯罪的教練。報告記錄逾30宗人工智能協助恐怖分子或極端主義者策劃襲擊的案例，涉及超過70人死亡，並特別警告可供下載及修改的開源模型可能被移除安全防護。

澳洲近期亦出現相關案件。昆州一名13歲男童被指多次利用人工智能模擬大規模槍擊案；墨爾本一宗商場持刀襲擊也涉嫌與人工智能激進化有關。澳洲安全情報組織此前已警告，境外極端分子正利用人工智能製造武器及策劃襲擊。總理阿爾巴尼斯本周亦表示，極端分子及國家行為者正使用相關技術進行宣傳和招募。OpenAI表示，公司持續加強ChatGPT的安全措施，阻止系統提供有害資訊。澳洲網絡安全法規定人工智能平台必須阻止恐怖主義內容，違者最高可罰5,400萬澳元。不過專家認為罰則不足，主張按企業營業額比例罰款，甚至封鎖未遵守澳洲法律的平台。

測試發現，OpenAI的ChatGPT分享的信息可能對極端分子有用（File photo: Reuters/Nasa Worldview）

來源：ABC