Instagram.

在欧洲更好地保护社区的重要一步

作者:Adam Mosseri, Instagram负责人

我们想做我们可以在Instagram上保证人们安全的所有事情。我们已经合作了专家更好地了解精神健康,自杀和自我伤害的深刻复杂问题,以及如何最好地支持那些脆弱的人。Instagram中没有人轻,包括我。我们取得了进步在过去的几年里,今天我们正在推出更多技术在欧洲来帮助我们的努力。但我们在这里的工作从未完成,我们需要不断寻找更多方法。

我们认识到,对于那些受到影响的人来说,这些都是非常私人的问题。它们也很复杂,而且总是在不断发展,这就是为什么我们不断更新我们的政策和产品,以便更好地支持我们的社区。我们从不允许任何人在Instagram上宣传或鼓励自杀或自残,而且去年,我们更新了我们的政策,以删除所有图形自杀和自我危害内容。我们还扩展了我们的政策,以禁止像图纸,模因或其他图像一样的虚构描绘,这些图像显示出与自杀或自我伤害相关的材料或方法。

通过单独的政策和产品解决这些困难问题是不够的。我们还认为为挣扎的人提供帮助和支持是很重要的。我们提供支持搜索与自杀和自我伤害相关的账户或哈希特的人员,并将其引导到可以提供帮助的当地组织。我们还与撒玛利亚人,自杀预防慈善机构合作了行业指南,旨在帮助我们这样的平台在处理有害内容和为需要的人提供支持来源之间取得重要平衡

我们使用技术帮助我们主动发现和删除更多有害的自杀和自残内容。我们的技术会发现可能包含自杀或自残内容的帖子,并将其发送给人类评论者,让他们做出最终决定并采取正确的行动。这些行动包括删除内容;将海报与能够提供帮助的当地组织联系起来;或者,在最严重的情况下,呼叫紧急服务。今年4月至6月间,我们采取行动的自杀和自残内容中,超过90%是在有人向我们报告之前,由我们自己的技术发现的。但我们的目标是让这个数字尽可能接近100%。

直到现在,我们只能使用这项技术找到自杀和自残的内容欧洲联盟使我们能够积极找到内容并送人们帮助。我很高兴分享,今天在欧盟,我们推出了一些技术,这将在Facebook和Instagram上工作。我们现在可以寻找可能会围绕自杀和自我伤害违反规则的帖子,并通过自动从探索的地方删除它们来使它们不那么可见。当我们的技术真的有信心的时候,帖子突破了我们的规则,我们现在可以自动删除它。

这是保护欧盟更多民众的重要一步。但我们还想做更多。下一步是使用我们的技术,不仅仅是找到内容,使其不那么显眼,而是将其发送给我们的人类评论者,并得到人们的帮助,就像我们在世界上其他地方做的那样。如果欧盟没有这一规定,我们就很难移除更多有害内容,也很难将人们与当地组织和应急服务联系起来。我们目前正在与监管机构和政府讨论如何最好地将这项技术引入欧盟,同时认识到他们对隐私的考虑。我们认为,并希望我们能找到正确的平衡,以便我们可以做更多。这些问题太重要了,不能不推动更多。

时间轴:我们采取的步骤来解决Instagram上的自我危害和自杀内容

  • 2016年12月推出匿名举报自残帖子,并开始将人们与能够提供帮助的组织联系起来。
  • 2017年3月:融合的自杀预防工具进入Facebook Live,使朋友和家人更容易及时报告和联系到人们。
  • 2017年11月:推出美国以外(除欧洲以外)的技术可以帮助识别某人何时可能表达自杀想法,包括在Facebook Live上。开始使用人工智能优先处理报告,帮助我们尽快向人们提供帮助,并提醒紧急服务。
  • 2018年9月创造了给有青少年使用Instagram的父母的指南。
  • 2019年2月:开始托管定期磋商凭借安全和自杀的预防专家,讨论自杀和自我伤害的不断发展的复杂性,并听到关于我们方法的定期反馈。
  • 2019年2月扩展我们的政策是禁止所有自杀和自残的图片内容,即使它以前被允许进入。我们还让这些内容在搜索中更难找到,屏蔽相关标签,并对所有准入内容应用敏感屏幕,将资源发送给更多发帖或搜索这类内容的人。
  • 2019年10月扩展我们的政策禁止虚构的自残或自杀内容,包括模因和插图,以及包含方法或材料的内容。
  • 9月2020年合作撒马利亚会发布他们的新指导方针如何在线安全管理自我危害和自杀内容。
  • 2020年10月:在所有搜索结果的顶部添加了一条消息,当您搜索与自杀或自我伤害相关的条款。该消息提供支持并将人们指向可以提供帮助的本地组织。
  • 2020年11月:在欧盟推出新技术,积极找到更多的自杀和自我伤害内容,使其不那么可见。

这些数字

我们相信我们的社会应该能够问责我们如何执行我们的政策和采取行动有害的内容。这就是为什么我们定期发布社区标准执行报告,分享我们正在采取行动的违规内容的全球数据,以及在这些内容被报告之前,我们自己发现的违规内容的百分比。这个时间表概述了我们在处理Instagram上的自杀和自残内容方面取得的进展,正如这些报道所显示的那样。

  • 2019年第二季度社区标准执行报告在采取行动83.5万条内容,其中近78%是主动找到的。
  • 2019年第三季度社区标准执行报告:已采取行动84.5万份自杀和自残内容,超过79%是主动发现的。
  • 2019年第四季度社区标准执行报告对89.7万条内容采取行动,主动发现率超过83%。
  • 2020年一季度社区标准执行报告:已采取行动130万条内容,其中近90%是主动找到的。
  • 2020年第二季度社区标准执行报告:已采取行动27.5万条内容,其中近94%是主动找到的。由于COVID-19对内容审查的影响,我们的执法人数在此期间有所下降。
  • Q3 2020社区标准执行报告:我们将在本月晚些时候发布我们的下一份报告。


为了帮助个性化内容,量身定制和测量广告,并提供更安全的体验,我们使用cookie。通过单击或导航网站,您同意通过Cookie允许您和关闭Facebook的信息集合。了解更多信息,包括可用控件:饼干政策