赶在帖子被报告前,Facebook推出人工智能主动检测有关自杀的帖子 | 趋势网
趋势网
用户名
密 码
趋势网 > 资讯 > 正文
赶在帖子被报告前,Facebook推出人工智能主动检测有关自杀的帖子 编译 2017-11-28 01:34:34 孙盈盈
100款App违法采集 200亩萝卜被拔光 华为起诉联邦通信 特朗普回应弹劾 浙江卫视道歉 俞渝致刘春公开信 
双十二超级红包速抢!入口链接口令 在哪里怎么领
原来你买的都有超级券!淘宝天猫内部隐藏优惠券
无圣光宅福利!无光晕 大尺度 裸条果贷 SM 啪啪啪 YJ

趋势网(微博微信)讯:这是拯救生命的软件。Facebook的新型“主动检测”人工智能技术将扫描所有用户帖子中的自杀念头,并在必要时将心理健康资源发送给有风险的用户或他们的朋友,或联系当地的第一响应者。通过使用AI来标记令人担忧的帖子给人类版主,而不是等待用户报告,Facebook可以减少给予用户帮助所需要的时间。

,Facebook,赶在帖子被报告之前,Facebook推出人工智能来检测有关自杀的帖子

Facebook之前使用AI进行测试过,用以发现令人不安的帖子,并向美国的用户们展示了更为突出的自杀报告选项。现在Facebook将会用这个AI来扫描世界各地的所有类型的内容,除了在欧盟,因为那里的隐私法律使这个技术的运用变得复杂。

,Facebook,赶在帖子被报告之前,Facebook推出人工智能来检测有关自杀的帖子

Facebook还将使用AI来优先处理特别危险或紧急的用户报告,以便版主能够更快地处理他们,以及用户能立即接触到当地语言资源和第一响应者联系信息的工具。它还为更多的版主提供预防自杀的训练,培训他们全天候处理有自杀风险的用户。现在有80个当地合作伙伴,比如Save.org,国家自杀预防生命线和Forefront,他们将向危险的用户及其社交好友提供资源。

产品管理副总裁Guy Rosen表示:“这是要在拯救自杀过程的每一个步骤都抢先几分钟的时间,尤其是在FacebookLive上。”在过去的一个月的测试中,Facebook发起了超过100次的“健康检查”,第一响应者访问了受影响的用户。“有一些情况下,第一响应者已经接触到发帖用户,但该用户仍在广播(令人不安的帖子)。”

Facebook主动扫描用户帖子内容的想法可能会引发一些反乌托邦人担心该技术如何应用。 Facebook并没有回答会如何避免扫描政治异议或微不足道的犯罪,Rosen只是说“我们有机会在这里提供帮助,所以我们将在这方面进行投资”。显然技术会有许多方面的好处,但另一个层面,我们别无选择,只能希望Facebook不会在使用该技术的路上走得太偏太远。

【[更新:Facebook的首席安全官Alex Stamos以令人振奋的信号在推特回应了这些担忧,Facebook将严肃认真对待人工智能的使用。】

The creepy/scary/malicious use of AI will be a risk forever, which is why it's important to set good norms today around weighing data use versus utility and be thoughtful about bias creeping in. Also, Guy Rosen and team are amazing, great opportunity for ML engs to have impact.https://t.co/N9trF5X9iM

— Alex Stamos (@alexstamos)November 27, 2017

Facebook通过查找过去手动报告过自杀风险的帖子中使用的单词和图像中的模式来训练AI。它也寻找像“你还好吗?”和“你需要帮助吗?”之类的评论。

,Facebook,赶在帖子被报告之前,Facebook推出人工智能来检测有关自杀的帖子

Rosen说:“我们已经和心理健康专家交流过了,帮助预防自杀的最好方法之一是需要让他们听到关心他们的朋友或家人的消息。这使Facebook处于一个非常独特的位置。我们可以帮助那些有风险的人联系朋友,也可以帮助联系那些能够帮助他们的组织。”

自杀报告现在在Facebook上怎么工作?

通过人工智能,人类版主和众包的报道的结合,Facebook可以设法防止悲剧发生,比如像上个月一位父亲在Facebook直播上自杀的悲剧。现场直播特别有能力错误地使自杀荣耀化,因此有必要采取新的预防措施,并且这也影响到大量观众,因为每个人都能同时看到内容,而不像录制的Facebook视频,在被许多人观看之前可以被标记和打击。

现在,如果有人在任何类型的Facebook帖子中表达自杀的想法,Facebook的人工智能将主动发现并将其标记给受过预防训练的人类版主,并为观众提供更方便的报告选项。

,Facebook,赶在帖子被报告之前,Facebook推出人工智能来检测有关自杀的帖子

当一份报告进入时,Facebook的技术可以突出显示与自杀风险模式相匹配或接受有关评论的帖子或视频部分。这避免了版主自己浏览整个视频。人工智能优先将用户报告标记比其他类型的内容策略违规更为紧急,如描述暴力或裸露。 Facebook表示,这些加速的报告比不加速的报道速度提高了两倍。

Facebook的工具然后从其合作伙伴提供当地语言资源,包括预防自杀电话热线和附近的当局。然后版主可以联系应答者并且尝试将他们发送到有风险的用户的位置,将心理健康资源展示给有风险的用户自己,或者将他们发送给可以与用户交谈的朋友。Rosen说:“我们的目标之一是确保我们的团队能够以我们支持的任何语言在全球范围内做出回应。”

,Facebook,赶在帖子被报告之前,Facebook推出人工智能来检测有关自杀的帖子

早在二月份,Facebook首席执行官Mark Zuckerberg就写道:“有一些非常悲惨的事件像现场直播的自杀发生了,如果有人意识到发生了什么事情,并且早点报告,也许可以防止这种事件发生。……人工智能可以帮助提供更好的方法。“

令人高兴的是看到拥有超过20亿用户的Facebook涉足这里。 Facebook不仅创造了一种让用户接触和关心彼此的方式。然而同时不幸的是,在Facebook Live中创建了一个无中介的实时分发渠道,可以吸引那些希望自己或他人施加暴力的观众。

创建一个无处不在的全球通信公用事业的责任超出了大多数科技公司的责任,而Facebook似乎也接受了这些责任。

正在抢红包  
免费!充话费 充流量
淘宝天猫新人福利社
享0元购特权,领188元红包
白拿!领红包 领奖金
支付宝新用户福利社
享1分购特权,领100元红包
下拉福利你懂!妲己 刘钰儿 洞房 爱爱 造人 出轨 私拍
某宝是什么,为什么叫某宝?对!我就是那个某宝
全网最有钱,来就借!大牌正规贷款 有无抵押都借
iPhoneXS/8/7选购:合约资费 旧机换购 免息分期
新闻    头条  人物   盘点  爆料  花边    囧图  段子  福利
热图    巨乳嫩模穆菲菲高清原图全套无圣光未打码福利照片
奇闻    意见箱离地两米高 抱着交警腿不松手
热点    现金贷  芝麻分  腾讯分  信用日  微交易  脱衣门
专题    优衣库  裸条贷  微粒贷  花借呗  iPhone8  苹果X
标签    互联网+  信用借贷  智能物联  增强现实  虚拟现实
感谢各大网址导航推荐本站
360导航
UC导航
Opera导航
毒霸网址
无限趋势·趋势网:关注互联网热点
www.mtrend.cn
@趋势网
趋势网
京ICP备09071216号 京公网安备11010802009093