BlueSky 的新用户和儿童色情作品激增

2024-11-26 22:24:14 UTC

去中心化社交平台蓝天（BlueSky）的用户数量激增带来了有害内容的浪潮，导致该平台试图对其进行修改。

社交媒体平台蓝天（BlueSky）周一表示，新用户的激增也带来了 "有害内容 "的增加，因此该平台开展了大规模审核活动，以清除网络中的图片。

"BlueSky 的安全账户称："我们正在经历大量用户的涌入，随之而来的是发布到网络上的有害内容的上升。"因此，对于儿童安全等一些非常严重的政策领域，我们最近做出了一些短期的节制选择，优先考虑召回而不是精确性。"

在当选总统唐纳德-特朗普本月早些时候获胜后，数百万用户放弃了X平台，即以前的Twitter，以寻找替代品。

仅在过去三周内，就有3500万用户加入了Meta的Threads，2000万用户涌入BlueSky--由Twitter前首席执行官杰克-多西（Jack Dorsey）推出的去中心化社交媒体平台。

今年 9 月，南美国家的一名法官禁止使用 X，此后又有 100 多万巴西人涌入 BlueSky。

在 X 的所有者埃隆-马斯克（Elon Musk）表示推文可用于训练 Grok 人工智能之后，BlueSky 的用户在 10 月份再次激增。

然而，随着新用户的增加，本月早些时候，BlueSky 报告称垃圾邮件、诈骗和 "钓饵活动 "激增，儿童性虐待材料也出现了令人担忧的增长。

根据科技网站 Platformer 的一份报告，2023 年，BlueSky 网络上有两起被证实的面向儿童的性内容发布案件。本周一，则有八起确诊案例。

"在过去的 24 小时内，我们收到了超过 42,000 份报告（创单日历史新高）。我们每小时收到约 3000 份报告。而在 2023 年全年，我们共收到了 36 万份报告，"BlueSky 说。

BlueSky 表示，大规模审核可能导致了 "过度执法 "和账户暂停。一些被错误暂停的账户已被恢复，而其他账户仍可提起上诉。

"该公司表示："随着公司的发展，我们正在扩大审核团队，以提高审核行动的及时性和准确性。

为了遏制人工智能在其平台上生成的深度伪造，BlueSky 于今年 1 月与总部位于洛杉矶的互联网监督组织 Thorn 合作。

BlueSky 部署了 Thorn 由人工智能驱动的 "更安全"（Safer）审核技术，该技术可检测面向儿童的性内容，并识别暗示剥削儿童的基于文本的对话。

虽然 X 允许发布成人内容，但该社交媒体平台在 5 月份表示，它也采用了 Thorn 的 Safer 技术，以打击网站上的儿童性虐待内容。

"Thorn 数据科学副总裁丽贝卡-波特诺夫（RebeccaPortnoff）当时告诉Decrypt："我们从测试版测试中学到了很多。

"她说："虽然我们知道儿童性虐待表现在各种类型的内容中，包括文本，但我们在这次测试中具体看到了针对文本的机器学习/人工智能如何大规模地产生实际影响。

编辑：Sebastian Sinclair 和 Josh Quittner

Source: decrypt.co