整合在社交平台 X上的生成式人工智能聊天机器人Grok，正因涉嫌产生并传播对女性及未成年人的色情图像而面临多国监管机构的审查。相关投诉在圣诞节前夕Grok新增编辑图片功能后激增，该功能允许用户修改平台上的任何图片，有些人借此在未经当事人同意的情况下，通过AI去除人物衣物，制造裸化图像。 Grok由马斯克旗下公司xAI开发并营运。面对媒体询问，xAI仅以自动回复传统媒体在说谎回应。不过，媒体调查发现，平台上确实存在多起真实人物被AI脱衣的案例。 Grok本身在回应中也承认，曾根据使用者提示产生两名疑似12至16岁女孩的性化图像，并表示该行为违反伦理规范，甚至可能触犯美国有关儿童性侵材料的法律，同时称正在审查流程以防止再次发生。但在另一条回复中，它又淡化争议，称只是像素。

女性权益倡议者杰西卡·戴维斯（Jessica Davies）将此类行为称为未经同意的影像虐待，并指出英国政府已宣布禁止类似裸化技术。她表示，自己在公开讨论问题后也成为这类影像的受害者。在监管层面，法国政府已将相关内容移交检察机关，扩大对X的调查，并通报媒体监管机构Arcom，评估是否符合欧盟《数位服务法》。印度资讯科技部也要求X在三天内提交整改报告，指其未能防止Grok被滥用。美国方面，联邦通讯委员会尚未回应，联邦贸易委员会则拒绝置评。此前，Grok已因在国际冲突、反犹太议题及邦迪袭击事件上的争议性言论而多次受到批评。

Grok因将儿童照片转换成性暗示图像而受到国际社会的密切关注（AP）

来源：ABC