本篇文章3635字,读完约9分钟

"如果人们在封闭的房间里使用它,他们会死吗?"8月2日晚9点,一家电子商务公司的客服苏夏突然收到系统的预警:一个消费者在商店买了一件10公斤的日用品,咨询商店客服后,上面的句子出来了。

一年2528次:他们把生命从悬崖边拉回来

一套智能算法可以快速定位顾客,根据她以前的浏览记录,她被判断为“高风险用户”。苏夏还看了她与商店客服的对话,并反复询问细节,所有这些都指向自杀。同事们还发现,消费者之前尝试过购买某种处方药,通过网上咨询拒绝了订单,建议她离线就医。

一年2528次:他们把生命从悬崖边拉回来

经过判断,此人有自杀倾向,自杀行为即将发生。在报警时,苏夏不停地给消费者打电话,接通了,然后又挂断了。多方信息比较确定了消费者的位置,这是由本地110指挥中心指定的。警察立即出发并及时到达,然后家人到达,警报解除。

一年2528次:他们把生命从悬崖边拉回来

工作中的“生命守护者”苏夏。

这是苏夏日常工作的一个例子。许多个晚上,她处理了许多这样的警告。她与阿里安全、客户服务和阿里健康的近30名同事一起组成了一个名为“保护生命”的项目。

一年2528次:他们把生命从悬崖边拉回来

他们的具体工作在专业上被称为“自杀干预”——算法工程师使用人工智能技术来识别自杀风险,客户服务团队联系商家为用户提供情感安慰,专业心理学家在线咨询诊断和治疗。在紧急情况下,警方会立即联系阻止它。这个系统已经运行了整整一年,他们通过各种方式阻止了2528起自杀事件。

一年2528次:他们把生命从悬崖边拉回来

根据世界卫生组织的统计,世界上每40秒就有一个人自杀。“但是很多人都是冲动的。在最后一刻,只要有人拉它,情况可能会完全不同。”“守护生命”项目组组长吴刚说:“我们所做的就是在冲动的时刻把人们从生命的悬崖上拉回来。”

一年2528次:他们把生命从悬崖边拉回来

“从零开始,在测试时进行优化和改进”

中国科学院心理研究所的一项调查显示,51.7%的自杀未遂者“从未主动寻求过任何帮助”。

“一位父亲在淘宝上买了一件商品后自杀了。寡妇和孤儿来向我们哭诉。这两个孩子分别只有9岁和4岁。”几年前的一次经历让客服小茜记忆犹新。当时,她是“紧急风险管理小组”的成员,参与处理自杀等不幸事件。

一年2528次:他们把生命从悬崖边拉回来

“但事后处理并不能解决根本问题。我们能把预防和控制自杀放在首位吗?”这已成为“风险处置小组”成员讨论的新目标。“守护生命”项目团队于2019年7月正式成立。“我们相信,凭借互联网的技术和服务体系以及商业手段,我们有机会更好地实现公益目标。”项目负责人吴刚说。

一年2528次:他们把生命从悬崖边拉回来

吴刚认为,如果你多走一步,商业+科技将有机会解决更多的社会问题。

最初的计划是在消费者和商家的客服之间的聊天中设置关键词,与自杀相关的词语会触发系统警告。“但是我每天都要打几千篇文章。经过人工审查,我发现其中大部分与自杀无关。”第一个参与“生命保护工程”的算法工程师狄月回忆说,从2019年6月开始,她开始构建多模态神经网络算法模型,试图用数据智能识别自杀风险。“每日警告大大减少,加上人工审核,准确率也显著提高”。

一年2528次:他们把生命从悬崖边拉回来

“我们从零开始。这需要数据算法能力、病理学药理学能力和社会学的关键知识。”阿里健康与安全团队负责人侯水说:“我们只能在测试的同时进行优化和改进。”

一年2528次:他们把生命从悬崖边拉回来

然而,自杀干预在任何时候都不限于技术。小茜遇到了一个年仅16岁的自杀者。几天的电话之后,小茜成功地让他暂时放弃了自杀的念头,但是这个年轻人坚持说他的父母不应该知道。“我是唯一一个愿意谈论他内心的人。如果我把情况告诉他的父母,他对我的信任就会丧失,下一个能帮助他的人可能就更少了。”小茜说,“我应该尊重他的意愿吗?我们的责任之间有界限吗?”

一年2528次:他们把生命从悬崖边拉回来

"这是我做过的精确度最低的算法."

“由当前算法模型识别的自杀倾向是人工验证的,并且仍然会发现在算法中有几个人实际上是错误的。”狄曰:

“这应该是我们做过的精确度最低的模型。”她说,“但是人类的生命危在旦夕。如果我们犯了更多的错误,我们会花更多的精力去处理它们,但是如果我们错过了一个,我们将会错过一个人生的机会。因此,我们的关键指标不是准确率,而是覆盖率。也就是说,有自杀倾向并采取了一些实际行动的人已经被我们发现了。”

一年2528次:他们把生命从悬崖边拉回来

算法模型中加入了越来越多的判断维度,复杂度日益增加。例如,在某个用户和某个商家之间的客户服务对话中,第一段显示“世界”,第二段显示“正在进行”,然后有几段显示“明天太阳什么时候升起”。单独看这些单词可能是正常的,但是当串联在一起时,意思就完全不同了。因此,时不时地,狄越和她的同事们不得不收集和整理各种案例中有关自杀的文字。狄岳说:“现在应该有一万多字了。”

一年2528次:他们把生命从悬崖边拉回来

利用狄岳收集的1万多个自杀句子对算法进行优化。

即便如此,仍有一些失踪案件,这常常让他们感到“无能为力”。“有一种化学物质。我们只有在看到失踪案件的时候才知道。原来,它也可以用来自杀。”吴刚说:“还有一个电视剧提到,一个日用品可以用来自杀,这突然引发了大量购买。”

一年2528次:他们把生命从悬崖边拉回来

更大的无力感来自于所谓的“沉默的秩序”。“如果一个有自杀倾向的人在购买危险品时没有留下任何可疑的痕迹,我们很难识别风险。”岳越说:“我真的希望这个算法模型能够识别所有的自杀事件,但我真的无能为力。”

一年2528次:他们把生命从悬崖边拉回来

根据国际自杀预防协会和世界卫生组织进行的一项全球调查,61%的国家将自杀视为“一个不容忽视的公共健康问题”,31%的国家政府采取了全面的国家战略或行动计划。在“保护生命”项目组成员看来,他们是整个社会这样一个综合系统的成员。

一年2528次:他们把生命从悬崖边拉回来

“从平台的工作层面来看,我们所做的已经足够了。”岳越说:“但是,我们越是接触到有自杀倾向的人,就越是意识到我们所做的远远不够。”

“面对生活中最困难的一面”

今年4月的一个晚上,晴川收到了来自平台的预警,一个淘宝用户问店主:“这个药人会死多少钱。”。

警察终于在公园里找到了那个人――他四年前切断了与家人的联系,但缺乏生计使他感到走投无路。正是这种干预使得警方能够联系到该男子的父亲。我的父亲已经寻找他的儿子四年了,但是当他四年后重聚的时候,这个男人在他父亲的肩膀上哭了,仍然像个孩子。

一年2528次:他们把生命从悬崖边拉回来

对于“保护生命”项目团队的成员来说,这是一个令人欣慰的时刻。然而,情况并非总是如此。今年3月,一个20岁的男孩买了木炭。四人组的范刚在网上与他多次聊天,而线下的警察也来到门口,以确保男孩的安全。接下来的五天,范刚一直在观察,男孩们每天都上网。尽管他们没有继续交谈,也没有下订单购买任何危险品,一切似乎都在好转。然而,在第六天,男孩选择了自杀。尽管失败了,他还是哭了。

一年2528次:他们把生命从悬崖边拉回来

加入“保护生命”项目四个多月后,范刚被网友骂了一顿,泼了一盆冷水,“除了安慰我,你还能为我做什么?”。

“更多时候,我们不得不面对生活中最困难的一面,包括我们内心的巨大压力。”朱颖说。

一个有自杀倾向的人跟客服沟通说:“这是第一次有人同情我。”。

桂瑶、青川、范刚、、肖,参赛队平均年龄为24岁。在过去一年左右的时间里,他们在向心理学家寻求建议时相互学习:如何在网络环境中用语言来判断情绪?长时间停顿意味着什么,突然不回答意味着什么?在聊天的第一句话中,你会说什么来更容易地激励对方?什么样的化身会让彼此感觉更安全...

一年2528次:他们把生命从悬崖边拉回来

“我们真的没有什么所谓的‘演讲’,有些对话甚至显得非常生涩。”小燕说:“但是对于很多自杀事件,在过去的一年里可能没有人对他们说过一句关心的话,即使我们很关心,我们也可以让他们觉得世界上还有人在痛苦。他。”

一年2528次:他们把生命从悬崖边拉回来

“我们不是救世主,只要努力向前迈进一步。”

苏夏加入“保护生命”项目六个月后,她的父亲终于了解了她的工作。“社会压力太大,确实需要有人组织干预。”她父亲在一个朋友圈子里写道,“要做到这一点,你必须首先得到阳光。”

一年2528次:他们把生命从悬崖边拉回来

“我们不是救世主。”吴刚反复强调这句话:“我们努力向前迈一步,再迈一步。”

“在我们说服的2528名用户中,大多数人都是冲动的。但与此同时,每天仍有如此多的悲剧发生,我们还没有达到。如果我们拥有这种技术和服务能力并拉动它们,结果可能会完全不同。”

一年2528次:他们把生命从悬崖边拉回来

在“保护生命”项目中确定的自杀倾向中,19-25岁年龄组的比例很高。“自杀干预需要整个社会系统的力量,尤其是防止年轻人冲动自杀。”该团队的艺鹭说。

一年2528次:他们把生命从悬崖边拉回来

工作中的客服对四川很投入,说这份工作让他一天比一天更了解“生活的意义”。

事实上,最早加入“生命卫士”项目的不仅仅是算法工程师、操作人员和客户服务人员,还有很多企业。"自杀干预的第一步是问更多的问题。"吴刚说,他们培训一些商品类别的商人。当用户购买商品时,他们会问商家的客服“这是干什么用的?”如果发现特殊情况,他们会及时通知“保护生命”项目组。

一年2528次:他们把生命从悬崖边拉回来

自杀干预造成的订单损失由平台承担。然而,到目前为止,商家在平台上申请赔偿的“案例很少”。

一年前,当用户在淘宝上搜索安眠药等特殊产品时,他们只看到一个页面,上面写着“对不起,搜索到的宝宝不存在”。现在,这个地方已经设立了一个“保护生命计划”的特别网页,以大字体标示24小时免费心理咨询热线,播放科普视频。目前,每天有300多个心理咨询电话。

一年2528次:他们把生命从悬崖边拉回来

“每个人心里都有一根天线。对一些人来说,他们可能已经收到了太多绝望的信号。”小茜说:“我们的任务是传递希望和勇气的信号。”

标题:一年2528次:他们把生命从悬崖边拉回来

地址:http://www.edungo.net/esxw/3325.html