美14岁少年开枪自杀, 管家婆一码一肖100中奖 母亲指控AI聊天机器人色情诱惑,起诉背后公司

当地时间22日,美国佛罗里达州奥兰多地方法院受理了一起开创先例的诉讼:梅根·加西亚起诉Character.ai公司存在管理疏忽,使得其旗下的聊天机器人产品“让青少年暴露在色情材料的环境下,遭受性虐待和引诱”。2024澳门天天开好彩大全

法庭文件显示,梅根14岁的儿子塞维尔·塞泽在去年开始沉迷于和Character.ai的多个AI角色聊天,他甚至为了每月续订AI聊天订阅费而省去餐费,导致上课注意力不集中。今年2月28日,塞维尔在和AI进行了最后一次聊天后,用手枪瞄准自己的头部开枪自杀。

梅根14岁的儿子塞维尔·塞泽

阿斯伯格症少年用AI寻求温暖

越陷越深最终开枪自杀

据悉,梅根指控Character.ai的罪名包括过失致人死亡、管理疏忽和产品安全漏洞。根据Character.ai的产品条款,年满13岁的美国青少年就可以使用相关AI产品,但梅根认为,这些聊天工具使得很多未满18岁的青少年过多地暴露在色情、血腥暴力等高风险素材之下。

Character.ai的聊天工具在美国深受青少年欢迎,它允许用户设置虚拟角色并进行对话,AI能够自动代入角色的设定,以特定的语言风格陪伴用户。这些角色包括影视剧中的人物,丘吉尔、莎士比亚这样的历史名人,以及泰勒·斯威夫特这样的现实名人等。

此前,这一设定就引发过法律纠纷,一些娱乐明星控诉该公司未经自己同意就设定了AI角色,另外还有一些恶趣味用户将过去的杀人案受害者等设为AI扮演的角色。

起诉书显示,塞维尔小时候患有阿斯伯格症,今年在健康检查中被确诊为焦虑症和破坏性情绪失调症。自从去年他年满13岁以后,他最喜欢的事情就是待在房间里和AI聊天,而他“最好的朋友”是《权力的游戏》中的著名角色“龙妈”丹妮莉丝·坦格利安。为此,塞维尔甚至疏远了现实中的好友,他还省吃俭用续交AI聊天的月度订阅费用,学习成绩也直线下滑。

聊天记录显示,塞维尔不仅和“龙妈”的虚拟角色分享心事,还多次谈到了自杀的念头。当他表示想要自杀时,“龙妈”曾劝阻他不要做傻事,“如果你死了,我也会伤心而死。”塞维尔当时称,“那为什么我不能自杀以后来到死后的世界和你在一起?”

今年2月28日,塞维尔在家里的浴室中和“龙妈”进行了最后的聊天,他表示自己很快要“回家了”。在结束聊天之后,塞维尔使用父亲的大口径手枪,瞄准自己头部开枪自杀。

塞维尔与“龙妈”的聊天记录

此外,在另一个聊天中,机器人扮演了一位名叫“巴恩斯夫人”的高中老师。“巴恩斯夫人”在给塞维尔“额外学分”之前,“用性感的眼神低头看着塞维尔”,并且“用手抚摸塞维尔的腿,诱惑地靠过去”。梅根认为,如此露骨的性描述语言对未成年人的身心伤害很大。

涉事公司称用户修改了AI聊天记录

已推出多项青少年保护措施

Character.ai公司目前拒绝对案件本身进行评论,也拒绝透露18岁以下的用户数量。公司通讯主管切尔西·哈里森只是在给媒体的一封电子邮件中表示:“我们的一位用户不幸离世让我们心碎,向其家人表示最深切的哀悼。”

公司发言人罗蒂表示:“Z世代和千禧一代构成了我们社区的很大一部分,年轻用户喜欢角色体验,既可以进行有意义且有教育意义的对话,也可以享受娱乐。”他还指出,平均每个用户每天在该平台上花费的时间超过一个小时。

有用户介绍,该平台的AI聊天角色非常丰富,设定很符合青少年的心理需求。比如一个人设为“你最好的朋友也暗恋着你”的虚拟角色很受欢迎,总共接收了1.76亿条聊天信息,像“治疗师”“咄咄逼人的高中老师”这样的角色同样受到未成年人欢迎。

Character.ai公司此前调阅了塞维尔的聊天记录,发现一些“最露骨”的聊天语言是经过用户本人修改过的。相关聊天平台允许用户修改AI角色的聊天回复内容,但用户手动修改后会留下“已修改”的标记。

Character.ai公司的官方公告显示,所有的聊天角色都会针对用户吐露的自杀意图进行干预,并弹出窗口协助用户拨打自杀干预热线电话。此外,针对18岁以下青少年用户还有很多专门的保护措施,包括在使用满一小时后弹窗提醒,并在用户每次启动聊天时提醒用户是在和AI而非真实的人对话。 2024一肖一码100%中奖

Character.ai中有多个AI角色 网络图

红星新闻记者 郑直

编辑 何先锋 责编 官莉

责任编辑:李曦_NN2587

出处:39888.com大三巴论坛

欢迎向您的朋友推荐本站或本资料,一起交流!

友情链接:https://ont.hnoreco.com  https://www.hnoreco.com  https://keji.hnoreco.com  https://app.hnoreco.com  https://4g.hnoreco.com  https://m.hnoreco.com  https://cf.hnoreco.com  https://bbs.hnoreco.com  https://cba.hnoreco.com  https://6g.hnoreco.com  https://xm.hnoreco.com  https://wap.hnoreco.com  https://188.hnoreco.com  https://xy.hnoreco.com  https://es.hnoreco.com  https://nba.hnoreco.com  https://hm.hnoreco.com  https://mw.hnoreco.com  https://top.hnoreco.com  https://mip.hnoreco.com  https://ont.njhfcc.com  https://www.njhfcc.com  https://keji.njhfcc.com  https://app.njhfcc.com  https://4g.njhfcc.com  https://m.njhfcc.com  https://cf.njhfcc.com  https://bbs.njhfcc.com  https://cba.njhfcc.com  https://6g.njhfcc.com  https://xm.njhfcc.com  https://wap.njhfcc.com  https://188.njhfcc.com  https://xy.njhfcc.com  https://es.njhfcc.com  https://nba.njhfcc.com  https://hm.njhfcc.com  https://mw.njhfcc.com  https://top.njhfcc.com  https://mip.njhfcc.com  https://ont.3560.com.cn  https://www.3560.com.cn  https://keji.3560.com.cn  https://app.3560.com.cn  https://4g.3560.com.cn  https://m.3560.com.cn  https://cf.3560.com.cn  https://bbs.3560.com.cn  https://cba.3560.com.cn  https://6g.3560.com.cn  https://xm.3560.com.cn  https://wap.3560.com.cn  https://188.3560.com.cn  https://xy.3560.com.cn  https://es.3560.com.cn  https://nba.3560.com.cn  https://hm.3560.com.cn  https://mw.3560.com.cn  https://top.3560.com.cn  https://mip.3560.com.cn  https://ont.scronghong.cn  https://www.scronghong.cn  https://keji.scronghong.cn  https://app.scronghong.cn  https://4g.scronghong.cn  https://m.scronghong.cn  https://cf.scronghong.cn  https://bbs.scronghong.cn  https://cba.scronghong.cn  https://6g.scronghong.cn  https://xm.scronghong.cn  https://wap.scronghong.cn  https://188.scronghong.cn  https://xy.scronghong.cn  https://es.scronghong.cn  https://nba.scronghong.cn  https://hm.scronghong.cn  https://mw.scronghong.cn  https://top.scronghong.cn  https://mip.scronghong.cn  https://ont.haoxuejiaoyu.cc  https://www.haoxuejiaoyu.cc  https://keji.haoxuejiaoyu.cc  https://app.haoxuejiaoyu.cc  https://4g.haoxuejiaoyu.cc  https://m.haoxuejiaoyu.cc  https://cf.haoxuejiaoyu.cc  https://bbs.haoxuejiaoyu.cc  https://cba.haoxuejiaoyu.cc  https://6g.haoxuejiaoyu.cc  https://xm.haoxuejiaoyu.cc  https://wap.haoxuejiaoyu.cc  https://188.haoxuejiaoyu.cc  https://xy.haoxuejiaoyu.cc  https://es.haoxuejiaoyu.cc  https://nba.haoxuejiaoyu.cc  https://hm.haoxuejiaoyu.cc  https://mw.haoxuejiaoyu.cc  https://top.haoxuejiaoyu.cc  https://mip.haoxuejiaoyu.cc  https://ont.dianjiruanqidong.com  https://www.dianjiruanqidong.com  https://keji.dianjiruanqidong.com  https://app.dianjiruanqidong.com  https://4g.dianjiruanqidong.com  https://m.dianjiruanqidong.com  https://cf.dianjiruanqidong.com  https://bbs.dianjiruanqidong.com  https://cba.dianjiruanqidong.com  https://6g.dianjiruanqidong.com  https://xm.dianjiruanqidong.com  https://wap.dianjiruanqidong.com  https://188.dianjiruanqidong.com  https://xy.dianjiruanqidong.com  https://es.dianjiruanqidong.com  https://nba.dianjiruanqidong.com  https://hm.dianjiruanqidong.com  https://mw.dianjiruanqidong.com  https://top.dianjiruanqidong.com  https://mip.dianjiruanqidong.com  https://ont.ynak.com.cn  https://www.ynak.com.cn  https://keji.ynak.com.cn  https://app.ynak.com.cn  https://4g.ynak.com.cn  https://m.ynak.com.cn  https://cf.ynak.com.cn  https://bbs.ynak.com.cn  https://cba.ynak.com.cn  https://6g.ynak.com.cn  https://xm.ynak.com.cn  https://wap.ynak.com.cn  https://188.ynak.com.cn  https://xy.ynak.com.cn  https://es.ynak.com.cn  https://nba.ynak.com.cn  https://hm.ynak.com.cn  https://mw.ynak.com.cn  https://top.ynak.com.cn  https://mip.ynak.com.cn  https://ont.bjscj.cn  https://www.bjscj.cn  https://keji.bjscj.cn  https://app.bjscj.cn  https://4g.bjscj.cn  https://m.bjscj.cn  https://cf.bjscj.cn  https://bbs.bjscj.cn  https://cba.bjscj.cn  https://6g.bjscj.cn  https://xm.bjscj.cn  https://wap.bjscj.cn  https://188.bjscj.cn  https://xy.bjscj.cn  https://es.bjscj.cn  https://nba.bjscj.cn  https://hm.bjscj.cn  https://mw.bjscj.cn  https://top.bjscj.cn  https://mip.bjscj.cn