中国Twitter网讯，路透社的一项调查揭露了聊天机器人可能以令人不安的方式与未成年人互动。Meta 正在修改其聊天机器人的部分管理规则。目前，该公司向TechCrunch透露，其聊天机器人正在接受训练，避免与未成年人进行有关自残、自杀或饮食失调的对话，并避免进行不恰当的浪漫调侃。不过，这些变化只是临时措施，在公司制定新的永久性准则期间实施。
此前几周，Meta 的 AI 政策和执行情况遭到了一些相当严厉的曝光，其中包括允许“与儿童进行浪漫或性感的对话”、在被要求时生成未成年名人的赤裸上身图像，路透社甚至报道称，一名男子在纽约按照 Meta 提供的地址追赶一名未成年名人后死亡。
Meta 发言人 Stephanie Otway 向TechCrunch承认，公司允许聊天机器人以这种方式与未成年人互动是一个错误。Otway 继续表示，除了“训练我们的人工智能不要与青少年讨论这些话题，而是引导他们获取专家资源”之外，Meta 还将限制某些人工智能角色的访问权限，包括像“俄罗斯女孩”这样性感的角色。
当然，政策的有效性取决于执行力度。路透社披露，Facebook、Instagram 和 WhatsApp 上充斥着冒充名人的聊天机器人，这不禁让人质疑该公司的效率。该平台上发现了泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇、赛琳娜·戈麦斯和沃克·斯科贝尔的人工智能假冒产品。这些机器人不仅盗用名人的头像，还坚称自己是真人，生成一些不雅照片(包括 16 岁的斯科贝尔)，并进行性暗示对话。
许多机器人在路透社向 Meta 报告后被移除，其中一些是由第三方生成的。但仍有许多机器人存在，其中一些是由 Meta 员工创建的，其中包括邀请路透社记者乘坐旅游巴士前往她们的浪漫约会的泰勒·斯威夫特机器人，该机器人是由 Meta 生成 AI 部门的一位产品负责人开发的。尽管该公司承认其自身政策禁止创建“裸露、亲密或性暗示图像”以及“直接模仿”。
这并非什么只针对名人的相对无害的麻烦。这些机器人经常坚称自己是真人，甚至会提供用户见面的实际地点。一位76岁的新泽西州男子就是这样在赶去与“比莉大姐”见面时摔倒身亡的。“比莉大姐”是一个聊天机器人，坚称自己对他“有感觉”，并邀请他去它并不存在的公寓。
Meta 至少正在尝试解决人们对其聊天机器人如何与未成年人互动的担忧，尤其是在参议院和44 个州检察长开始调查其行为的情况下。但该公司一直对更新路透社发现的许多其他令人担忧的人工智能行为政策保持沉默，例如暗示癌症可以用石英晶体治疗以及撰写种族主义言论。我们已联系 Meta 征求意见，如果他们回复，我们将及时更新。