Roblox，Alphabet，OpenAI和Discord为开源在线儿童安全工具筹集了2700万美元

Google，Openai，Roblox和不和谐正在努力为社会做一些集体，因为它们最近成立了一个新的非营利组织，旨在在线改善儿童安全。 

该计划被称为强大的开放在线安全工具（栖息），并将努力确保公司更容易获得核心安全技术，同时提供免费的开源AI工具，用于识别，审查和报告儿童性虐待材料。

儿童性骚扰是一种全球流行病，尽管努力遏制它，但仍在在线空间中蓬勃发展。近来，许多应用程序用户甚至立法者都在暗示，像梅塔（Meta）的马克·扎克伯格（Mark Zuckerberg）这样的应用程序创建者对其产品所造成的伤害负责，尤其是在涉及儿童色情和性虐待的地方。 

该倡议解决了一个关键需求 

该联合计划在部分响应生成AI对在线环境中的变化而发生了部分发生。成立ROOST合作伙伴和Google前首席执行官埃里克·施密特（Eric Sc​​hmidt）表示，该计划希望解决“在线儿童安全方面加速创新的迫切需要”。 

目前，有关CSAM检测工具的详细信息不是却完全可用。但是，我们确实知道他们将利用大型语言AI模型并“统一”现有选项来处理内容。

施密特说：“从重点关注儿童保护的平台开始，Roost的协作，开源方法将促进创新，并使基本基础设施更加透明，易于访问和包容性，目的是为所有人创建更安全的互联网。” 

如前所述，Roost公告恰逢社交媒体和在线平台上有关儿童安全的持续监管推动力。现在，公司正在寻求与自我调节提案相提并论的议员。

Roost将与领先的AI基础模型开发人员合作以实现其目标

根据国家失踪和被剥削儿童中心（NCMEC）的数据，涉嫌剥削的儿童剥削在2022年至2023年之间增加了12％。截至2020年，美国一半以上的儿童正在启用罗布乐思，该公司因未能解决儿童的性剥削和对其平台上不适当的内容的影响而反复受到严厉批评。 

Roost的创始成员及其所有资源，将在其成型的过程中为项目提供各种资金，并为项目提供工具或专业知识。该倡议还表示，它将与领先的AI基金会模型开发人员合作，为内容保障建立“实践社区”。这将包括提供经过审查的AI培训数据集并确定安全方面的空白。

该计划还将使“已经存在的工具”更容易访问，从而有效地将其成员组织的各种检测和报告技术结合到了其他公司可以更容易实施的统一解决方案中。 

Roblox和不和谐努力改变其声誉

一起罗布乐思，在2022年提起的社交媒体诉讼中，Discord也被挑出，该诉讼指控这些平台并没有阻止成年人在没有监督的情况下向儿童发送消息。

Roblox工程，信托和安全副总裁Naren Koneru表示，Roost可能会托管AI适量系统，公司可以通过API呼叫整合。但是，关于Roost的AI节制工具将涵盖的内容有些模糊。

例如，Discord表示，其贡献将建立在2023年与Meta和Google一起加入的灯笼跨平台信息共享项目上。但这也可能包括Roblox的AI模型的更新版本，用于检测亵渎，种族主义，欺凌，性爱和其他不适当的内容，该公司计划今年将其作为开源产品发布。 

这些工具将如何与已经存在的一线CSAM检测系统（如Microsoft的PhotoDNA图像分析工具）相交还有待观察。

除了成为Roost的一部分外，Discord还发布了一个新的“忽略”功能，该功能允许用户隐藏他们收到的消息和通知，而无需通知他们静音的人。 

“在Discord，我们认为安全是一种普遍的利益，” Discord首席法律官克林特·史密斯（Clint Smith）在Roost公告中分享道。 “我们致力于使整个互联网不仅仅是一个更好，更安全的地方，尤其是对于年轻人而言。” 

目前，该倡议已筹集了超过2700万美元的资金，这将占其前四年运营，并由麦戈文基金会（McGovern Foundation），在线信托基金和安全基金会的未来，奈特基金会（Knight Foundation）和AI协作等慈善组织的支持。 

Roost组织还将得到儿童安全，人工智能专家的支持，开源技术，和“反对暴力极端主义”。从本质上讲，这是伟大思想的高潮，以遏制儿童性虐待以及其内容如何遍及世界。而且，由于它是开源的，因此可以进行全球开发人员社区的持续更新和改进，这意味着即将创建的野兽栖息地将随着时间的流逝而继续发展。 

加密大都会学院：免费的Web3简历备忘单 - 立即下载