您当前的位置:创新研究网资讯正文

解救生命的AI算法辨认高自杀危险人群

放大字体  缩小字体 2019-08-13 12:46:36 作者:责任编辑NO。郑子龙0371

神译局是36氪旗下编译团队,重视科技、商业、职场、日子等范畴,要点介绍国外的新技能、新观念、新风向。

编者按:家长和教师等人作为传统的“守门人”人物,会对青少年们的自杀倾向进行必定干涉,但当LGBTQ人群呈现心思问题时,由于许多前史原因,他们或许无法干涉。那,谷歌和人工智能能够协助吗?本文作者Sidney Fussell讲了谷歌对自杀协助非营利安排Trevor Project的支撑,两边期望算法能够第一时间辨认高自杀危险人群,进行更及时的干涉。原文宣布在《大西洋月刊》(The Altantic),原文标题The AI That Could Help Curb Youth Suicide。

图片来历:ALASTAIR GRANT / AP PHOTO

防备自杀的文献以为,社区里会有这么一类人,当有社区成员表达自杀的主意时,他们或许会供给协助,他们被称作“守门人”。这个名词没有一个非常谨慎的界说规模,通常情况下,“守门人”包含教师、家长、教练和年长的搭档——当他们看到身边人呈现心思问题时,具有某种办法的威望和干涉才能。

“守门人”是否也包含谷歌?

当用户查找自杀办法相关的关键词时,谷歌会杰出显现全美防备自杀生命线(National Suicide Prevention Lifeline)的电话。但这绝不是满有把握的办法。谷歌可不能修改详细的网页,它只能修改查找成果,这意味着当有人想找自杀办法时,他能够很轻易地经过链接、论坛等办法找到,压根儿不必查找引擎。与此同时,在现如今的互联网上,“碾压”更或许是粉圈的拉踩表达,而不是真实的呼救,但机器或许无法了解其间的细微差别。当人们不运用英语、运用其他言语查找时,谷歌的人工智能在检测自杀意念方面的功率也要低得多。

总的来说,查找成果是一个有用但过于泛泛的干涉办法,能够作为防备战略运用起来。终究,任何人都能够以任何理由查找任何东西。

谷歌对算法防备自杀的最新测验更有针对性——针对那些正在寻求协助的人。

“发生了什么事?”

本年5月,这家科技巨子向非营利安排Trevor Project捐款150万美元,Trevor Project总部坐落加州,经过电话热线(TrevorLifeline)、短信服务(TrevorText)和即时通讯渠道(TrevorChat)向LGBTQ青少年供给心思咨询。该项意图领导者期望经过运用机器学习主动评价来信者的自杀危险,然后改善TrevorText和TrevorChat的服务。全部的全部都从Trevor咨询师的第一个问题开端:“发生了什么事?”

Trevor Project的工作室主任山姆·多里森(Sam Dorison)说:“假如他们有自杀的主意,咱们想保证咱们会以一种不带成见的办法跟他们谈谈,让他们来引导整个对话进程。他们想评论出柜吗?他们需求自己社区内LGBT社群的资源支撑吗?咱们真实让他们来引导对话,这或许最有协助。”

现在,那些想得到自杀协助的人需求排队等候。Trevor的均匀等候时间很短,不会超越五分钟,但在某些紧迫情况下,一秒都耽误不得。Trevor的领导团队期望,跟着对人工智能的开发,它终究能够经过剖析来电者对第一个问题的答复,辨认出自杀危险高的来电者,并立即把这个电话转接给人工咨询师。

谷歌将运用两个数据点进行人工智能练习:青少年与咨询师对话的初始阶段,以及咨询师与他们攀谈后完结的自杀危险评价。其理念是,经过对初始阶段与终究危险评价的数据进行比照,人工智能能够依据最早的反响猜测自杀危险。

Trevor Project的技能总监John Callery说:“咱们以为,假如咱们能够依据开始的几条信息和终究的危险评价来练习算法,那么就会发现许多人类无法发觉但机器却能够辨认的东西,这或许会协助咱们了解更多相关常识。” Callery弥补说,咨询师们将持续做出自己的评价。

算法具有辨认不知道形式的惊人潜力,但要成为一名优异的“守门人”,关键是当呈现问题时,要向前推动并进行干涉。虽然在某些方面,咱们现已做到了,但这终究是不是咱们真实想要融入技能的那些方面还尚不可知。加拿大和英国的公共卫生方案发掘交际媒体数据来猜测自杀危险。在Facebook,一旦算法检测到视频中呈现自残或暴力行为,就会敏捷符号该直播视频,发送给警方。

咱们在谷歌查找“怎样缓解宿醉”,也查找医疗主张,更查找“怎么从失恋中恢复过来”,咱们用谷歌了解全部。查找成果或许是混合了不相关信息的,乃至或许是误导性的,可是查找自身并不会对此做出判别。

得克萨斯大学奥斯汀分校(University of Texas at Austin)人类开展与家庭科学系主任斯蒂芬·罗素(Stephen Russell)表明:“(学生们)回家后上网,他们能够向全世界任何人发表这些信息。”几十年来,Russell一向在对LGBTQ集体进行研讨,他的研讨颇具开创性,他表明,虽然有心思问题的学生的确“不该该用谷歌处理这些问题”,可是,让实际日子中的一切守门人们对LGBTQ人群的观点变得敞开、活跃的确很难,由于几十年来,人们一向对这些集体抱有污名和成见。他说:“ 即使是当今,我也能听到有些管理者说,‘咱们这儿没有这样的孩子。’这一向是实际中的一个困境。”

而Trevor Project的效果就在于此。终究,这个非营利安排的领导团队期望规划出这样一个人工智能体系:它能够猜测LGBTQ年青人们将需求什么资源——住宅、出柜协助、心思治疗——一切这些都是经过剖析谈天中头几条信息来完成的。长时间来看,他们期望人工智能能够进化,能够辨认元数据中的形式,而不仅仅是扫描初始音讯。例如,假如人工智能能够从音讯中确认来信者的教育水平等信息,那么它能否推断出这些结构性要素对自杀危险的影响?

一堆令人目不暇接的“假如,那么”句子看上去不或许抢救一个人的生命,但信任很快,它就能够了。

译者:喜汤

“如果发现本网站发布的资讯影响到您的版权,可以联系本站!同时欢迎来本站投稿!