整合在社交平台 X上的生成式人工智能聊天機器人Grok，正因涉嫌產生並傳播對女性及未成年人的色情圖像而面臨多國監管機構的審查。相關投訴在聖誕節前夕Grok新增編輯圖片功能後激增，該功能允許用戶修改平台上的任何圖片，有些人藉此在未經當事人同意的情況下，通過AI去除人物衣物，製造裸化圖像。 Grok由馬斯克旗下公司xAI開發並營運。面對媒體詢問，xAI僅以自動回覆傳統媒體在說謊回應。不過，媒體調查發現，平台上確實存在多起真實人物被AI脫衣的案例。 Grok本身在回應中也承認，曾根據使用者提示產生兩名疑似12至16歲女孩的性化圖像，並表示該行為違反倫理規範，甚至可能觸犯美國有關兒童性侵材料的法律，同時稱正在審查流程以防止再次發生。但在另一條回覆中，它又淡化爭議，稱只是像素。

女性權益倡議者傑西卡·戴維斯（Jessica Davies）將此類行為稱為未經同意的影像虐待，並指出英國政府已宣布禁止類似裸化技術。她表示，自己在公開討論問題後也成為這類影像的受害者。在監管層面，法國政府已將相關內容移交檢察機關，擴大對X的調查，並通報媒體監管機構Arcom，評估是否符合歐盟《數位服務法》。印度資訊科技部也要求X在三天內提交整改報告，指其未能防止Grok被濫用。美國方面，聯邦通訊委員會尚未回應，聯邦貿易委員會則拒絕置評。此前，Grok已因在國際衝突、反猶太議題及邦迪襲擊事件上的爭議性言論而多次受到批評。

Grok因將兒童照片轉換成性暗示圖像而受到國際社會的密切關注（AP）

來源：ABC