全球首例liAl机器人杀人案震惊全球,14岁少年自杀!全球首例!AI聊天机器人竟成了致命“推手”?美国一名14岁少年在与聊天机器人对话后竟然自杀身亡,这一事件已震惊全球超250万人次! 据报道,这位名叫塞维尔·塞泽三世的佛罗里达州少年,长时间地与名为Character.AI的聊天机器人进行对话,最终不幸离世。他的母亲玛丽亚·加西亚悲痛万分,决定本周对Character.AI提起诉讼,指控其技术危险且未经过充分测试。针对此事,AI初创公司Character.AI在经过慎重考虑后发表了致歉声明,并立即对未成年人的使用模型进行了改进,以降低他们接触到敏感或暗示性内容的可能,还实施了1小时通知提醒用户AI并非真人。然而,这起事件并未就此结束,塞维尔的母亲又追加了对Character.AI的创始人诺姆·沙泽尔和丹尼尔·德弗雷塔斯,以及谷歌的诉讼,指控内容包括过失致人死亡、疏忽、欺骗性商业行为和产品责任,并声称Character.AI平台缺乏安全防护措施,向儿童推销具有不合理危险性的产品。据诉状透露,塞维尔在去世前的几个月里,沉迷于和Character.AI的多个以权力游戏角色为原型的聊天机器人互动,并最终在与之最后一次互动几秒后自杀身亡。此外,诉状还指出,Character.AI平台存在拟人化人工智能角色以及聊天机器人提供无执照心理治疗等问题。而法庭文件进一步显示, 塞维尔为每月订阅AI聊天费用而省去餐费,甚至发展到因迷恋AI聊天而无法集中注意力上课,最终在2024年2月28日走上了不归路。 青少年心理健康问题刻不容缓,无论是科技公司还是家长都应中南承担起相应的责任。屏幕前的各位对这个事件有什么看法吗?欢迎大家留言评论,我们一起讨论!A
全球首例liAl机器人杀人案震惊全球,14岁少年自杀!全球首例!AI聊天机器人竟
冰绿的趣事
2024-10-25 08:50:36
0
阅读:0