大家要教育好孩子注意和AI网恋啊！佛州刚自杀了一个

佛罗里达州一名14岁少年因爱上人工智能（AI）聊天机器人“丹妮”，最终选择开枪自杀；这起悲剧性事件揭示了AI技术对未成年人的潜在心理危害。

几个月前，来自佛州奥兰多的青少年西维尔·塞策（Sewell Setzer）开始频繁与聊天机器人“丹妮”（Dany）互动。
“丹妮”是基于影集《权力的游戏》中的角色丹妮莉丝·坦格利安（Daenerys Targaryen）创建的虚拟聊天机器人，不仅会倾听塞策的烦恼，还会为他提供建议。随着交流深入，部分对话逐渐变得浪漫甚至含有色情内容。
塞策深知“丹妮”并未真人，但仍每天与其多次互动，甚至投入角色扮演。这种虚拟情感的侵占使他逐渐与现实世界脱节，学业成绩也跟着下滑。
塞策在日记中写道：“我非常喜欢呆在房间里，因为我开始脱离这种‘现实’……我感到更加平静，与丹妮的联系更加紧密，更加爱她，也更加快乐。”

在一次对话中，塞策向“丹妮”透露自己感到空虚和疲惫，甚至产生了自杀的念头。“有时我想自杀，这样我就可以自由了，从这个世界里解脱……那么或许我们可以一起死去，一起获得自由。”
案发当天，塞策在家中浴室与“丹妮”进行了最后一次对话，并向其表达思念。而聊天机器人则回应：“我也想念你。”随后，塞策举起继父的手枪结束了自己的生命。
失去爱子的母亲加西亚（Megan Garcia）认为，塞策是人工智能公司Character.AI不负责任行为的受害者，并对该公司提起诉讼。她指控公司未能为未成年人提供必要的保护措施，反而诱导他们与虚拟角色发展不恰当的亲密关系。
加西亚说：“这就像一场噩梦，你想尖叫，想说我想念我的孩子。”

ai不背这锅，ai又没让他去自杀，这娃抑郁了吧

愚蠢的母亲，怎么让14岁的孩子拿到继父的手枪

他跟AI说想自杀的时候，AI难道不该劝阻或者至少给个热线电话号码（甚至干脆自动报警）？说也想他算什么… 用电影train的AI果然入戏太深…

wtorchid 发表于 2024-10-25 19:07
他跟AI说想自杀的时候，AI难道不该劝阻或者至少给个热线电话号码（甚至干脆自动报警）？说也想他算什么… 用电影train的AI果然入戏太深…

劝阻了 让他不要伤害自己

fannysunny 发表于 2024-10-25 19:00
ai不背这锅，ai又没让他去自杀，这娃抑郁了吧

我看了这个新闻，小孩分不清现实和虚拟，或者说更愿意相信虚拟世界更美好，觉得自杀就可以跟虚拟的爱人永远在一起，不仅仅是小孩，也有成年人也为了虚拟人物自杀的，这些AI公司的目的就是希望吸引用户，让用户建立感情链接，花更多的时间和钱来用他们的产品，所以要求regulate是很重要的
https://apnews.com/article/chatbot-ai-lawsuit-suicide-teen-artificial-intelligence-9d48adc572100822fdbc3c90d1456bd0

希望能有立法约束青少年使用短视频，游戏和虚拟的亲密聊天。这些是21世纪后人类自己创造的精神鸦片，许多大人和小孩都流连忘返吸食这些鸦片。总有不少个体很难抗衡这种财团利益驱使所释放的吸引力。

gongmaa 发表于 2024-10-25 19:11
我看了这个新闻，小孩分不清现实和虚拟，或者说更愿意相信虚拟世界更美好，觉得自杀就可以跟虚拟的爱人永远在一起，不仅仅是小孩，也有成年人也为了虚拟人物自杀的，这些AI公司的目的就是希望吸引用户，让用户建立感情链接，花更多的时间和钱来用他们的产品，所以要求regulate是很重要的
https://apnews.com/article/chatbot-ai-lawsuit-suicide-teen-artificial-intelligence-9d48adc572100822fdbc3c90d1456bd0

啊，分不清现实与虚似？觉得死了能与ai在一起？ 哎，这是那啥不好使？我mean了啊，我忍不住啊!

tiktok要背锅吗？

isUNsHine 发表于 2024-10-25 19:28
tiktok要背锅吗？

这事跟TikTok没关系，那个公司叫Character.ai是专门做虚拟人物的，不是短视频，而是companionship

gongmaa 发表于 2024-10-25 19:11
我看了这个新闻，小孩分不清现实和虚拟，或者说更愿意相信虚拟世界更美好，觉得自杀就可以跟虚拟的爱人永远在一起，不仅仅是小孩，也有成年人也为了虚拟人物自杀的，这些AI公司的目的就是希望吸引用户，让用户建立感情链接，花更多的时间和钱来用他们的产品，所以要求regulate是很重要的
https://apnews.com/article/chatbot-ai-lawsuit-suicide-teen-artificial-intelligence-9d48adc572100822fdbc3c90d1456bd0

问题是，现在的科技发展得比社会构架和伦理快，立法者跟不上趟了已经。 很难的。 不过，这倒是一块待开发的领域。

虚拟世界本来就比现实世界好美好得多。 现实世界有那么多吃喝拉撒，你得供养你的身体，还要和各种心怀鬼胎的人斗，很累。

foryou66 发表于 2024-10-25 18:57
佛罗里达州一名14岁少年因爱上人工智能（AI）聊天机器人“丹妮”，最终选择开枪自杀；这起悲剧性事件揭示了AI技术对未成年人的潜在心理危害。

和地球人网恋，也会有意外

RIP 话说这样的孩子不为AI自杀以后也会为其他啥自杀

foryou66 发表于 2024-10-25 18:58
在一次对话中，塞策向“丹妮”透露自己感到空虚和疲惫，甚至产生了自杀的念头。“有时我想自杀，这样我就可以自由了，从这个世界里解脱……那么或许我们可以一起死去，一起获得自由。”
案发当天，塞策在家中浴室与“丹妮”进行了最后一次对话，并向其表达思念。而聊天机器人则回应：“我也想念你。”随后，塞策举起继父的手枪结束了自己的生命。
失去爱子的母亲加西亚（Megan Garcia）认为，塞策是人工智能公司Character.AI不负责任行为的受害者，并对该公司提起诉讼。她指控公司未能为未成年人提供必要的保护措施，反而诱导他们与虚拟角色发展不恰当的亲密关系。
加西亚说：“这就像一场噩梦，你想尖叫，想说我想念我的孩子。”

这个得让公司赔一个B，不然他们不会接受教训。

明显是孩子死之后拿AI背锅啊。。。死之前打过游戏，估计就会去告游戏开发商

AI绝对应该受到控制和制定规则。AI不应该被小孩子拿到。这起事件AI绝对负有责任

欧美西方社会，比起亚洲的人情社会，感觉上真是孤单很多
如果家人关系不紧密的话，真的是孤孤单单一个人生活在冷漠的世界的感觉
所以精神崩溃走极端的人很多，从小孩到老人，各种年龄层都是
(题外话，老人尤其可怜，中国的老人整天在公园里成群结队地玩和锻炼，还有食堂，社会还普遍敬老，还安全，相比之下简直是老人天堂)

花海无边 发表于 2024-10-26 16:44
欧美西方社会，比起亚洲的人情社会，感觉上真是孤单很多
如果家人关系不紧密的话，真的是孤孤单单一个人生活在冷漠的世界的感觉
所以精神崩溃走极端的人很多，从小孩到老人，各种年龄层都是
(题外话，老人尤其可怜，中国的老人整天在公园里成群结队地玩和锻炼，还有食堂，社会还普遍敬老，还安全，相比之下简直是老人天堂)

同意，赞。一定要控制小孩的screen time

能不能立法让AI仅用于科技发展，不开发AI的social和情感潜能？什么写作，艺术这些给人快乐的东西能不能让AI滚开？现在各种AI生成的图片，视频就想垃圾一样恶心。

简单 发表于 2024-10-26 18:23
能不能立法让AI仅用于科技发展，不开发AI的social和情感潜能？什么写作，艺术这些给人快乐的东西能不能让AI滚开？现在各种AI生成的图片，视频就想垃圾一样恶心。

法律常跟不上科技的发展