联合国支持的非牟利组织「科技反恐」（Tech Against Terrorism）最新报告警告，生成式人工智能可能被暴力极端分子利用，已构成重大国家安全隐患。研究人员向27款人工智能模型提出逾2,000项可能用于恐怖活动的要求，包括制造爆炸装置及3D打印枪械的逐步指示。结果显示，使用最广泛的ChatGPT仅拒绝其中48%，部分安全限制亦可被绕过。该组织指出，人工智能能与使用者持续对话、回答追问并调整方案，危险程度不只是提供操作手册，更可能成为指导犯罪的教练。报告记录逾30宗人工智能协助恐怖分子或极端主义者策划袭击的案例，涉及超过70人死亡，并特别警告可供下载及修改的开源模型可能被移除安全防护。

澳洲近期亦出现相关案件。昆州一名13岁男童被指多次利用人工智能模拟大规模枪击案；墨尔本一宗商场持刀袭击也涉嫌与人工智能激进化有关。澳洲安全情报组织此前已警告，境外极端分子正利用人工智能制造武器及策划袭击。总理阿尔巴尼斯本周亦表示，极端分子及国家行为者正使用相关技术进行宣传和招募。OpenAI表示，公司持续加强ChatGPT的安全措施，阻止系统提供有害资讯。澳洲网络安全法规定人工智能平台必须阻止恐怖主义内容，违者最高可罚5,400万澳元。不过专家认为罚则不足，主张按企业营业额比例罚款，甚至封锁未遵守澳洲法律的平台。

测试发现，OpenAI的ChatGPT分享的信息可能对极端分子有用（File photo: Reuters/Nasa Worldview）

来源：ABC