收紧政策及扩大资源以预防自杀及自残

安提戈涅·戴维斯,全球安全主管

作为一个全球在线社区,确保人们在我们的应用程序上的安全对我们来说非常重要。自2006年以来,我们与世界各地的专家合作,向有自杀或自残风险的人们提供政策、做法和产品支持。

Today, on World Suicide Prevention Day, we’re sharing an update on what we’ve learned and some of the steps we’ve taken in the past year, as well as additional actions we’re going to take, to keep people safe on our apps, especially those who are most vulnerable.

改善我们如何处理自杀和自我伤害相关内容

今年早些时候,我们开始定期举办磋商与来自世界各地的专家讨论一些与自杀和自我受伤相关的一些更困难的主题。这些包括我们如何处理自杀笔记,在线悲伤内容的风险和基于自杀的最重要的描述。这些会议的进一步详情可在Facebook的新内容上使用自杀预防页面在我们的安全中心。

经过这些磋商,我们做出了一些更改,以改进处理这些内容的方式。我们收紧了政策自残不再允许图形切割图像,以避免无意间促进或触发自残,即使是在某人寻求支持或表达自己以帮助恢复时。在Instagram.,我们也增加了搜索这类内容的难度,并避免在Explore中推荐它。我们也采取了措施来解决这个复杂的问题进食障碍的内容在我们的应用中,通过收紧政策来禁止可能促进饮食失调的额外内容。有了这些更严格的政策,我们将继续向那些发布宣扬饮食失调或自残内容的人发送资源,即使我们删除这些内容。最后,我们选择在愈合的自伤伤口上显示一个敏感屏幕,以帮助避免无意中促进自伤。

我们与专家的接触被证明是非常有价值的,我们也聘请健康和福利专家加入我们的安全政策团队。该人将专门关注我们的应用和政策的健康和幸福,并将探讨改善对社区支持的新方法,包括与自杀和自我伤害有关的主题。

我们首次首次探索从我们的平台分享公共数据的方法,从我们的谈论自杀,从提供学术研究人员,通过提供社交媒体监测工具,Crowdtangle的学术研究人员。迄今为止,Crowdtangle主要有助于帮助新闻室和媒体出版商了解Facebook上发生的事情。但是,我们渴望成为两个选择的研究人员,他们专注于自杀预防,探讨如何在Facebook和Instagram上共享的信息,以便在自杀预防和支持方面进一步进步。

除了我们正在做更多的机会和地面资源的地方,我们还在继续建立新技术,以帮助我们找到并采取潜在有害内容的行动,包括删除或添加灵敏度屏幕。从2019年4月到6月,我们在Facebook上采取了超过150万自杀和自我伤害内容,并在用户报告之前发现了95%以上。在同一时间段内,我们在Instagram上对超过800,000件内容进行了行动,并在用户报告之前发现了超过77%的时间。(更新于2019年9月10日上午11:30 PT,分享关于我们如何处理潜在有害内容的更多信息。)

成为困难谈话的更安全论坛

专家告诉我们,防止自杀最有效的方法之一是听取关心他们的朋友和家人的意见。Facebook在促进这种联系方面扮演着独特的角色,我们正在采取额外的措施来支持那些讨论这些敏感话题的人,特别是年轻人。

为了帮助年轻人安全地讨论像自杀这样的话题,我们通过加入Orygen 's来加强我们的在线资源#Chatsafe指南在Facebook的安全中心和Instagram上的资源中,有人搜索自杀或自我伤害内容。

#chatsafe指南是和年轻人一起开发的,旨在为那些可能对他人发布的自杀相关内容做出回应的人,或那些可能想分享自己关于自杀想法、感受或行为的感受和经历的人提供支持。

我们将继续投资人,技术和资源,以便我们可以做更多的是保护人员在我们的应用中。访问我们防止自杀资源页面了解有关可用的内容的更多信息。



为了帮助个性化内容,量身定制和测量广告,并提供更安全的体验,我们使用cookie。通过单击或导航网站,您同意通过Cookie允许您和关闭Facebook的信息集合。了解更多信息,包括可用控件:饼干政策