澳洲廣播公司（ABC）調查發現，由悉尼科技公司Coreflow營運、擁有逾2,000萬用戶的人工智能色情網站OurDream，疑似生成外貌未滿18歲角色的色情內容，可能違反澳洲兒童性虐待材料相關法律。事件曝光後，全球最大成人網站Pornhub已暫停OurDream所有廣告，澳洲網絡安全監管機構eSafety Commissioner也已介入，正評估平台是否違反《網絡安全法》，最高可處4,950萬澳元民事罰款。OurDream提供用戶建立「AI女友」並進行文字、圖片及影片互動，雖宣稱禁止未成年角色，但ABC發現網站仍出現疑似14至15歲角色。昆州警方已展開調查，兒童保護專家認為相關內容屬於人工智能生成的兒童性虐待材料。國際失蹤與受剝削兒童中心澳洲分會（ICMEC Australia）向Pornhub母公司Aylo通報後，對方隨即停止OurDream的廣告投放。

ABC取得Coreflow外洩程式碼後發現，其內容審核主要使用中國人工智能模型Qwen判斷角色年齡，但系統僅檢測是否看似未滿15歲，而非澳洲法律規定的18歲標準，且對模糊案例採取較寬鬆處理。專家指出，該模型年齡判斷誤差可達正負6歲，難以有效辨識未成年角色，相關安全機制並不適合用途。Coreflow否認容許非法內容，強調平台對涉及未成年人的內容採取零容忍政策，並表示Qwen僅為多重審核系統之一，目前已採用更先進模型，持續加強內容審查。截至目前，OurDream已移除ABC指出的17個疑似未成年角色中的11個。

執法部門使用的技術顯示，人工智能色情網站OurDream上的一些角色似乎描繪的是未滿16歲的人（ABC News）

來源：ABC