中国Twitter网讯:巴西首席检察官、国家数据保护局 (ANPD) 和国家消费者权益局 (Senacon) 表示,X 必须“立即采取适当措施,防止使用 Grok 制作儿童、青少年以及未经同意的成年人的性化或色情内容”。
相关机构给了该平台五天时间遵守命令,否则将面临法律诉讼和罚款。
巴西当局表示,X 声称在巴西上个月发出警告后,已删除数千个帖子并暂停了数百个帐户。
但他们补充说,检查发现 Grok 用户仍然能够生成色情深度伪造视频。
他们抨击 X 公司“在回应中缺乏透明度”。
X公司于1月15日宣布采取措施,阻止Grok在那些此类行为被视为非法的国家/地区对真实人物进行脱衣行为。目前尚不清楚这些措施在哪些国家/地区生效。
在 Grok 的所谓“刺激模式”功能允许用户使用简单的文本提示(例如“让她穿上比基尼”或“脱掉她的衣服”)创建女性和儿童的性化深度伪造视频后,国际社会对 xAI 施加了越来越大的压力,要求其约束 Grok。
据反网络仇恨中心 (CCDH) 称,Grok 在短短几天内就生成了约 300 万张女性和儿童的性化图片。