李文亮的微博下,AI在阻止人们自杀

今日头条
Toutiao
最新回复:2020年12月27日 12点43分 PT
  返回列表
20995 阅读
20 评论
全现在

  爷爷奶奶都感染新冠了,爸爸妈妈也不在身边,只剩下我,我还不如去死。 这是一个青少年的求死信号,被树洞机器人抓出来后,志愿者心头一阵紧张。

今天核酸检测结果阳性,尘埃落定,终于确诊了。

武汉市中心医院眼科医生李文亮,生前最后一条微博留在了上个冬天。从那之后,这条微薄下面成了一个树洞,无数人把自己的烦恼和忧愁写在那里。



李文亮医生的微博

它的评论数曾在3个月内,累计超过了100万条。

如今又一个冬天来了,仍有人坚持留言,或是诉说生活中的喜怒哀乐、或是悼念逝去的亲人,抑或简单来看看,它成了一个寄托心灵的地方,记录着新冠一年来人们的各种情绪。



2020年12月24日晚23点左右的部分留言

除此之外,还有一群人在密切观察这个树洞。

他们的主要任务是干预、疏导,并且守护因新冠疫情产生脆弱心理的人们。最重要的是,他们要用AI阻止人们自杀。

01 新冠下的救援

深夜,疫情监控机器人001号开始工作了。它自动抓取李文亮最后一条微博下的评论,并为它们定义痛苦指数。

一个人说,这是今年看过最难过的故事了。机器人将其痛苦指数定为6级,自杀风险2级。

另一个人说,你的预警没能过早警醒大家,你的离世带给我们无数悲愤、伤心。机器人将其痛苦指数定为8级,自杀风险为3级。

如果一个人的痛苦指数被判定超过12级,自杀风险超过5级,这个人的信息就会自动推送到 树洞行动救援团微信群里,志愿者们便会着手进行心理干预。

树洞行动救援团由荷兰阿姆斯特丹自由大学人工智能系教授黄智生发起。近两年来,他一直专注于人工智能对中国国内的自杀干预。



荷兰阿姆斯特丹自由大学人工智能系教授黄智生 图源:受访者提供

2月6日,黄智生结合以往抓取自杀信息的AI技术,开发出了一款疫情监控机器人,它不仅抓取李文亮医生微博下的求助信息,也在关注肺炎患者求助超话下人们的诉求。

新冠疫情期间,改良版的疫情监控机器人,总共为400多名求助者提供了信息渠道,和重症心理干预及治疗帮助。

机器人还要做的一个事情是,及时发现那些因新冠疫情产生轻生念头的人,再及时告知志愿者,实施救助。目前,救援团已组织起600多名志愿者,遍及全国各省市。

爷爷奶奶都感染新冠了,爸爸妈妈也不在身边,只剩下我,我还不如去死。 这是一个青少年的求死信号,被机器人抓出来后,志愿者高玉军心头一阵紧张。

高玉军的另一个身份是武汉科技大学附属天佑医院精神卫生科副主任医师,新冠疫情期间,他接手了树洞机器人抓出来的中重度抑郁症、精神疾病患者心理干预工作。

那段时间,高玉军每天凌晨两三点都还会接到电话,都是向他咨询心理问题的人,这让他几乎整夜都睡不好。

所幸,那个求死的少年,最终被树洞救援团的志愿者劝回来了。

为了安慰需要有心理帮助的人,我们疫情期间对微博上的大型树洞进行24小时实时监控、搜集和通报,每天发布3次通报,收集求助信息。黄智生告诉全现在,庆幸的是,因为新冠疫情想要自杀的人没有那么多。

02 一个树洞AI

黄智生的灵感来自于南京抑郁症女孩走饭。

2012年3月17凌晨, 走饭上吊自杀。第二天,她生前定时的时光机发出微博,我有抑郁症,所以就去死一死,没什么重要的原因,大家不必在意我的离开。拜拜啦。



走饭最后一条微博下的留言

走饭自杀后,她的微博成了有轻生想法的人吐露绝望情绪的树洞。

截至2020年12月10日的最新数据统计,走饭这条微博下的留言已近200万条,几乎每隔几分钟,就有新的留言出现。

2018年4月,常年研究语义分析的黄智生,想通过人工智能抓取在走饭微博下留言的轻生者,再迅速联系到本人,阻止其自杀。

世界卫生组织统计,目前全球范围内大约有 3.5 亿人患有抑郁症。中国抑郁人数已超过 9500 万人,每10个人中就有1人饱受抑郁症的折磨。抑郁症已成为产生自杀倾向的最大诱因。

如果人工智能能够阻止具有自杀倾向的人,避免他们走上绝路,在黄智生看来,那将是一件功德无量的事情。



一个画了卡通涂鸦的小树洞

自2018年7月起,树洞机器人001号诞生了。

机器人每天定时从网络树洞中抓取数据,进行智能化分析,生成对应的自杀监控通报,并发给树洞行动救援团采取相应的救助行动。

数据爬虫是第一步,更重要的是解读微博留言中的每一句话。人说的话千奇百怪,不能按照模板去套,需要具备一定的人工智能来理解分析。黄智生告诉全现在。

树洞机器人现已运行了2年多,现在的版本已迭代为013号,能够自动剔除99%的无关信息,对自杀风险判别的准确率平均达到83%。

抓取分级的核心技术有赖于知识图谱(Knowledge Graph),它覆盖了自杀方式、自杀计划、痛苦表达、时间描述、地点描述、悼念模式等相关概念描述,用逻辑推理的方式推导句子中的概念。

据黄智生的树洞机器人采集分析,李文亮的微博是他们重点关注对象之一。2月初,几乎每天都会增加10万的微博评论,出现李文亮相关的特殊事件时,如被授予烈士称号、调查组进展、李文亮妻子生孩子等,就会再次出现舆论小高潮。

但跟走饭不同,李文亮微博下,每天只有5-10条与自杀相关的信息。

走饭树洞下每次都会发现50-60个有自杀倾向的用户。黄智生说,囿于人力物力所限,树洞救援团并不能援助AI抓取出来的每位有自杀倾向的人。

黄智生和志愿者们不想、也不敢发现更多有自杀意念的人,如果发现他们有危险,但是没能力去提供帮助,我们的心里更痛苦。所以,每天能救的最多只有3个用户。

03 3289次自杀

AI抓取并将树洞中拥有自杀风险的用户分类,只是第一步,通过蛛丝马迹锁定轻生者所在位置,才是树洞救援团干预的关键。

你有什么不开心的事情吗?不论你经历了什么都要相信,这个世界上总有人在默默关心着你。通常对于一个轻生者,树洞救援团的志愿者会发出这样一条微博私信,作为开场白。

为了拯救一个轻生者,树洞救援团会派出5-6名志愿者成立一个救援小组,聊天、谈心,有时候也会帮助他们解决经济困难,直到轻生者放弃自杀念头。

AI抓取并将树洞中拥有自杀风险的用户分类,只是第一步,通过蛛丝马迹锁定轻生者所在位置,才是树洞救援团干预的关键。

你有什么不开心的事情吗?不论你经历了什么都要相信,这个世界上总有人在默默关心着你。通常对于一个轻生者,树洞救援团的志愿者会发出这样一条微博私信,作为开场白。

为了拯救一个轻生者,树洞救援团会派出5-6名志愿者成立一个救援小组,聊天、谈心,有时候也会帮助他们解决经济困难,直到轻生者放弃自杀念头。

很快,群里一名来自上海、正在云南培训的志愿者,把信息发给了云南当地朋友。他们最后根据照片背景定位,那里是云南省嵩明县的某楼盘,照片背景中的山是邱启山。

地址确定后,树洞救援团以最快的速度通知了当地警察,艾丽被救下了。

如果想自杀还给外界留信息,那可能是她最后一次呼救。黄智生说。

到2020年9月底,2年多以来,树洞机器人与树洞救援团共阻止了3289次自杀行为。

04 病耻感

每一个轻生者的痛苦各不相同。有原生家庭的阴影;有的陷入诈骗、网贷等经济困境;或遭到隐秘的侵害,比如被强奸、被校园霸凌;有的罹患精神疾病

一旦轻生者承受不了压力,就会崩溃,再次出现自杀的念头。

每一类人员都有他救援的困难,但其中最困难的是本身患有精神疾病的人群,他们有着更强烈的病耻感。树洞救援团资深心理咨询师、武汉大学健康学院教师杨冰香告诉全现在。

病耻感是轻生者的主要症状,他们害怕遭到周围人的歧视,他们不会与周遭熟人谈论内心情况。

杨冰香渐渐发现,树洞机器人只是解决了线上技术方面的问题,线下救援的自杀干预仍然很难劝服当事人及其家属。有时候,多次自杀的轻生者会将这种绝望的情绪传染到家人身上。

2019年9月26日,树洞机器人抓取到了微博账号阿言的一条留言:对不起,我的妈妈,我没有活成你们想要的样子,欠你们的,来世再报。

机器人判断其自杀风险为10级,正在进行时。

消息一出,杨冰香立刻加入了救援团中。经聊天发现,阿言位于武汉市,曾罹患产后抑郁症,后发展为双相情感障碍,她说自己多次出现妄想症。

几位志愿者综合阿言发布的各种信息发现了她曾就诊的信息,推测出了她的真实身份。更要紧的是,志愿者在聊天中发现,阿言曾4次服药自杀未遂,被当地警察救下过3次,她的网上约死经验丰富,沉迷于割腕。

杨冰香带着几位志愿者,进一步确定她的居住地后,准备报警阻止她自杀,但卡在了阿言的家人身上。家里人态度很明确:她已经多次自残,由于经济因素和隐私,他们不愿意将阿言送到医院治疗,宁可在家中看管。

当时阿言已经在房间里开始烧炭了,最后所幸被抢救回来。直到医院考虑到阿言一家情况,减免了大额治疗费用,家人才勉强同意送她去医院治疗。

为了协调救援阿言,小群里的人越拉越多。当时卫生部门、医院、街道派出所、社区妇联等负责人都进群了。杨冰香回忆阿言的故事,再次深感重度抑郁症患者救援的艰难,21个人,差不多花了整整一天半才结束救援。

05 界线

树洞救援团曾救助过的1000多个人里面,有8个人最后还是选择离开了。

每当这种消息出现,几百人的大群总会陷入一阵沉寂,志愿者的心里也随之咯噔一下,而他们剩下能做的,只有给逝者家人送去些许温暖。

树洞救援团在救援轻生者时,一直遭遇这样的悖论:长期陪伴轻生者,心理咨询师和志愿者一旦和他们建立了情感联系,就不希望这些人离开;但为了挽救他们的生命,有时候却不得不要暴露对方的隐私。

有志愿者透露,他们在拯救濒临自杀边缘的轻生者时,站在共情的角度,也会假扮同样患有重度抑郁症的患者,或者混入约死群,成为一同上路的小伙伴。

为了救援,志愿者在取得轻生者信任后,选择报警救人,与此同时必然暴露轻生者的具体信息。

其实,2017年Facebook通过扫描用户的文字和图片信息,分析用户是否有自杀倾向的功能,也曾遭到过精神专家和欧盟方面关于隐私的指责,迫于压力Facebook并未在欧盟区上架该功能。

树洞救援团也曾碰到过救了8次的高中女孩,最后一次给他们发短信,内容是求求你们,放过我吧。

但黄智生和团队成员秉持一个原则拯救生命是最大的伦理。如果没有生命危险,隐私保护优先于救援;反之,救援高于隐私保护。黄智生说。

在数据来源方面,他认为树洞行动抓取的是微博公开数据,不存在隐私问题。

同时,黄智生也百般叮嘱志愿者们,不到万不得已,不轻易采用报警方式,不直接给轻生者施加压力。更多的是加强个人情感联系,向轻生者表达我们的关爱,并竭尽所能,帮他们解决面临的问题。

由于一旦报警,警方会通知当地的派出所,警车便开到家里去了。父母通常情况下会责骂要轻生的孩子,没良心不孝。

这会对轻生者带来更大的负面情绪,下一次他可能会选择更隐蔽的手段去自杀,也不透露任何信号了。黄智生强调。

对于那些马上要自杀的人,树洞救援团会解读他以前发的信息,试图找到他身边的亲人阻止其自杀。

现阶段,树洞救援行动已经跟微博网警建立了紧密联系,一旦树洞救援行动在微博上呼救,微博网警也会同步采取行动,干预自杀。

06 困境

由于社交媒体的使用习惯,黄智生对曾经拯救过的轻生者做过一个画像,大多数是16岁-26岁的年轻女孩子,轻生者中的男女比例是1:3。

这里面并不包含想要自杀的中老年人。

黄智生承认,在社交媒体上拯救的轻生者还是以年轻人为主要对象,中老年人的自杀干预,就我们目前的人力物力还无法做到,我希望社区能多加干预。

由于社交媒体的使用习惯,黄智生对曾经拯救过的轻生者做过一个画像,大多数是16岁-26岁的年轻女孩子,轻生者中的男女比例是1:3。

这里面并不包含想要自杀的中老年人。

黄智生承认,在社交媒体上拯救的轻生者还是以年轻人为主要对象,中老年人的自杀干预,就我们目前的人力物力还无法做到,我希望社区能多加干预。

上海市精神卫生中心危机干预研究室主任费立鹏(Michael R Phillips)多次在公开场合提到他的研究:中国69%的自杀者都是50岁以上的人,三分之一的自杀者没有精神障碍,可是现在90%以上的研究力量放在青少年和抑郁问题上,这部分的自杀比例只占5%。

费立鹏是自1994年起开始关注中国自杀问题的加拿大学者,也是率先在北京回龙观医院创办心理危机干预中心的人。

他认为,自杀干预在全球来看难度极大。首先,马上要自杀的高危个体,不会让你找到他;其次,高危群体的筛选相对容易一些,但缺乏严谨而科学的评估方法,容易出现错误并造成不可弥补的后果;再次,即便确定了高危群体的风险,也可能无法提供准确有效的服务,包括伦理隐私的问题也无法解决;最后,哪怕提供了服务,还要保证服务的持续跟踪等。总的来说,技术干预自杀,不能夸大效果。 费立鹏在一次采访中说。

但在黄智生看来,用AI进行自杀干预仍具有积极意义,新冠疫情给民众带来了过多的心理压力,我们观察也发现,轻生现象直到今年7-8月份才恢复平稳状态。

志愿者高玉军也认为他们做的事情有价值。他至今都不能忘记,疫情初期,武汉一位初为人父的男子在封城之际,因为医院没有床位,无法收治,也不愿回家感染家人,无奈之下跳江了。

他总感叹,他当时如果能被树洞救援团抓住,安慰一下,也不至于在曾经那么繁华的长江大桥,凄凉地跳下去。

(文中艾丽、阿言均为网名)

 

世事沧桑
1 楼
阻止能解决根本问题吗?不知道。
雪月星空
2 楼
去死吧
至清无鱼
3 楼
美国死了那么多人,不知道生前有没有人帮他们疏导疏导?
雅皮士
4 楼
人类虽然文化不同,但是很多情感还是很类似的。 中国死于新冠肺炎的人不到5000人,却在努力的挽救每个生命;美国死于新冠肺炎的人有30万了,想自杀的人,恐怕要远远超过中国的几十倍吧?也不知道美国做的怎么样? 我估计,特朗普还是要让这群人自生自灭,让大自然淘汰他们,以实现美国的再次伟大,MAGA.
S
SoWhatAgain
5 楼
李文亮的微博还可以留言?不是早就被中共关了吗?还可以自由发布?
5
5mslj
6 楼
雅皮士 发表评论于 2020-12-26 20:26:16 人类虽然文化不同,但是很多情感还是很类似的。 中国死于新冠肺炎的人不到5000人,却在努力的挽救每个生命;美国死于新冠肺炎的人有30万了,想自杀的人,恐怕要远远超过中国的几十倍吧?也不知道美国做的怎么样? 我估计,特朗普还是要让这群人自生自灭,让大自然淘汰他们,以实现美国的再次伟大,MAGA. ——————————————- 中国最早的病例,目前知道是11月初,咱们就按照官方说法12月份出现病例,在一个几千万人口的城市,经过将近2个月没有防护的传播,2月3日,华春莹说一共死亡300多人。随后,意大利、西班牙、美国、德国,在有所准备的情况下,一个月都死亡过万,这些地方的医疗水平医疗条件肯定不比武汉差。 其他就不用多说了,自己分析吧。
a
apache2000
7 楼
当时那个警官要是把李文亮给关起来,李文亮可能不会死,被隔离了,这样到是救了李文亮,可那个警官也违纪了,而可能受到惩处。这事闹的。
魍魉鬼
8 楼
雅皮士最近加班挺忙的啊 可惜工作热情越高死的越快
a
apache2000
9 楼
疫情暴发,感染迅速,短时间出现大量病人,出现医疗“挤兑”,现有的医疗人员和设施(比如ICU)无法满足应对那么多的病人,使得许多病人得不到及时治疗而死亡,这和医疗水平无关,和医疗人员和设施数量有关。况且这个病没有什么特殊治疗方法,通常主要是维持生命,包括上呼吸机等,都是些常规方法。
雪月星空
10 楼
尼玛又忽悠……sb
D
DoctorXI
11 楼
我看还不只这一个机器人吧
D
DoctorXI
12 楼
估计五毛们现在在拼年终 review, 发帖积极性大幅度提高, 而且有许多毫无逻辑可言的滥竽充数的帖子。
z
zhige
13 楼
中国的心理健康和心理疏导等工作还差得很远。像17年前非典过后有谁听说过这方面的报道?
s
size0
14 楼
只有伟大的,独立于人类控制的超级Ai系统才是我们的领导者。
r
r41866
15 楼
这个要赞。 有些见到中国东西就骂的人,你们心理太阴暗了。中国不好的东西很多,美国不好的东西也很多,为什么大家不把注意力集中到真善美的东西上面,对别人多一点理解呢?看见不合自己观点的东西,也不仔细看看,上来就骂。怎么这里留言的人大多数都只会骂人,而不会理智地多多尝试理解别人呢?
阳光灿烂de日子
16 楼
DoctorXI估计五毛们现在在拼年终 review... ================================================= 这个拼年终奖的不就是你DoctorXI自己吧:P 每个帖子都有你的留言,碰到不同见解立马扣一顶五毛的帽子,这么天天阴暗地活着,还真需要一个树洞AI来拯救一下你的灵魂
雪月星空
17 楼
能拯救别人的人都是给人挖洞的。。。
D
DoctorXI
18 楼
阳光灿烂de日子 发表评论于 2020-12-27 07:46:45 DoctorXI估计五毛们现在在拼年终 review... ================================================= 这个拼年终奖的不就是你DoctorXI自己吧:P 每个帖子都有你的留言,碰到不同见解立马扣一顶五毛的帽子,这么天天阴暗地活着,还真需要一个树洞AI来拯救一下你的灵魂 —-/ 五毛这么着急跳出来啦?我指控的五毛可都是有根据的,要不要我把五毛列表贴出来你看看?你的名字也在上面。 五毛狗的灵魂是无法拯救的,打狗棒可以让它们灰飞烟灭。
a
apache2000
19 楼
黄母狗(DoctorXI)给五毛们做年终总结,挺有意思的。
D
DoctorXI
20 楼
阿怕痴五毛狗年终奖拿了不少吧?