中国Twitter网讯：Yoel Roth，曾任Twitter 信任与安全主管，现就职于 Match，分享了他对开放社交网络未来及其打击虚假信息、垃圾邮件和其他非法内容(例如儿童性虐待内容 (CSAM))能力的担忧。在最近的一次采访中，Roth 担心 Fediverse(包括 Mastodon、Threads、Pixelfed 等应用程序以及 Bluesky 等其他开放平台)缺乏可用的审核工具。
他还回忆了 Twitter 在信任与安全方面的关键时刻，例如决定禁止特朗普总统使用该平台、俄罗斯机器人农场传播的错误信息，以及包括首席执行官杰克·多尔西在内的 Twitter 自己的用户如何成为机器人的牺牲品。
在与@Rabble 的播客Revolution.social中，罗斯指出，在开放社交网络上建立更加民主的在线社区的努力也是在审核工具方面资源最少的努力。
“…通过观察 Mastodon、基于 ActivityPub [协议] 的其他服务、早期的 Bluesky，以及 Meta 开始开发的 Threads，我们发现许多最倾向于社区控制的服务为其社区提供了技术含量最低的工具来管理他们的政策，”Roth 说。
他还认为，开放社交网络在透明度和决策合法性方面出现了“相当大的倒退”，而Twitter曾经拥有这种地位。尽管当时许多人可能不同意Twitter封禁特朗普的决定，但该公司解释了其这么做的理由。如今，社交媒体提供商过于关注如何防止不良行为者利用他们，以至于很少做出解释。
与此同时，在许多开放的社交平台上，用户不会收到有关其帖子被禁的通知，他们的帖子就会消失——甚至没有任何迹象表明该帖子曾经存在过。
罗斯问道：“我不会因为初创公司是初创公司而责怪它们，也不会因为新软件缺乏所有花哨的功能而责怪它们，但如果这个项目的整个目的是提高治理的民主合法性，而我们所做的只是在治理上后退一步，那么，这真的有效吗?”
适度经济学
他还提出了有关适度经济学的问题，以及联邦制方法在这方面为何尚未可持续。
例如，一个名为 IFTAS(独立联邦信任与安全)的组织一直致力于为 fediverse 构建审核工具，包括为 fediverse 提供打击 CSAM 的工具，但它资金耗尽，不得不在 2025 年初关闭其许多项目。
“我们两年前就预见到了这一点。IFTAS 也预见到了这一点。在这个领域工作的每个人基本上都是志愿者，贡献时间和精力，但这也只是暂时的，因为到了一定的时候，人们会有家庭，需要支付账单，而如果需要运行机器学习模型来检测某些类型的不良内容，计算成本就会不断增加，”他解释道。“这一切都变得成本高昂，而这种联合信任和安全方法的经济效益从未真正体现出来。在我看来，现在仍然如此。”
与此同时，Bluesky 也选择聘请审核员，并以信任和安全为原则进行招聘，但其审核范围仅限于其自有应用。此外，他们还提供工具，方便用户自定义审核偏好。
“他们正在大规模地开展这项工作。显然还有改进的空间。我希望他们能更加透明一些。但从根本上来说，他们做的是对的，”罗斯说道。然而，他指出，随着服务进一步去中心化，Bluesky 将面临这样的问题：何时应该将保护个人的责任置于满足社区需求之上。
例如，在人肉搜索中，由于用户配置了审核工具，他们可能不会发现自己的个人信息在网上传播。但即使用户没有使用 Bluesky 主应用，仍然应该有人负责执行这些保护措施。
隐私的界限该如何划定
Fediverse 面临的另一个问题是，偏向隐私的决定可能会阻碍审核工作。尽管 Twitter 试图避免存储不必要的个人数据，但它仍然收集了用户的 IP 地址、访问服务的时间、设备标识符等等信息。当 Twitter 需要对类似俄罗斯水军农场之类的事件进行取证分析时，这些信息对 Twitter 很有帮助。
与此同时，如果 Fediverse 管理员认为这侵犯了用户隐私，他们甚至可能不会收集必要的日志，或者不会查看这些日志。
但现实情况是，如果没有数据，就很难确定谁是真正的机器人。
罗斯列举了他在推特上工作期间的几个例子，指出用户用“机器人”来回复任何他们不同意的人，这已成为一种趋势。他说，他最初设置了警报，并手动审查了所有帖子，检查了数百个“机器人”指控的例子，但没有一个是正确的。就连推特联合创始人兼前首席执行官杰克·多西也成了受害者，他转发了一位自称是纽约黑人女性克里斯托·约翰逊的俄罗斯演员的帖子。
罗斯说：“该公司首席执行官喜欢这些内容，并对其进行了放大，但作为用户，他根本不知道克里斯托·约翰逊实际上是一个俄罗斯巨魔。”
人工智能的作用
一个适时的讨论话题是人工智能如何改变格局。罗斯引用了斯坦福大学最近的研究，该研究发现，在政治语境下，大型语言模型(LLM)经过适当调整后，甚至可能比人类更具说服力。
这意味着仅依赖内容分析本身的解决方案是不够的。
相反，公司需要跟踪其他行为信号——比如某个实体是否创建了多个账户、使用自动化发布信息或在一天中与不同时区相对应的奇怪时间发布信息，他建议道。
“这些行为信号即使在真正令人信服的内容中也可能潜藏其中。我认为你必须从这里开始，”罗斯说。“如果你从内容入手，你就是在与领先的人工智能模型进行军备竞赛，而你已经输了。”