澳洲广播公司（ABC）调查发现，由悉尼科技公司Coreflow营运、拥有逾2,000万用户的人工智能色情网站OurDream，疑似生成外貌未满18岁角色的色情内容，可能违反澳洲儿童性虐待材料相关法律。事件曝光后，全球最大成人网站Pornhub已暂停OurDream所有广告，澳洲网络安全监管机构eSafety Commissioner也已介入，正评估平台是否违反《网络安全法》，最高可处4,950万澳元民事罚款。OurDream提供用户建立「AI女友」并进行文字、图片及影片互动，虽宣称禁止未成年角色，但ABC发现网站仍出现疑似14至15岁角色。昆州警方已展开调查，儿童保护专家认为相关内容属于人工智能生成的儿童性虐待材料。国际失踪与受剥削儿童中心澳洲分会（ICMEC Australia）向Pornhub母公司Aylo通报后，对方随即停止OurDream的广告投放。

ABC取得Coreflow外泄程式码后发现，其内容审核主要使用中国人工智能模型Qwen判断角色年龄，但系统仅检测是否看似未满15岁，而非澳洲法律规定的18岁标准，且对模糊案例采取较宽松处理。专家指出，该模型年龄判断误差可达正负6岁，难以有效辨识未成年角色，相关安全机制并不适合用途。Coreflow否认容许非法内容，强调平台对涉及未成年人的内容采取零容忍政策，并表示Qwen仅为多重审核系统之一，目前已采用更先进模型，持续加强内容审查。截至目前，OurDream已移除ABC指出的17个疑似未成年角色中的11个。

执法部门使用的技术显示，人工智能色情网站OurDream上的一些角色似乎描绘的是未满16岁的人（ABC News）

来源：ABC