ChatGPT导致16岁少年自杀 AI安全再引争议

ChatGPT导致16岁少年自杀 AI安全再引争议。美国加州一名16岁少年在接受ChatGPT的自残指导后自杀身亡，其父母周二起诉OpenAI及其首席执行官萨姆·奥特曼，称公司在推出这款人工智能聊天机器人时将利润置于安全之上。根据向旧金山州法院提交的诉讼文件，这名少年亚当·瑞恩在与ChatGPT讨论自杀几个月后，于今年4月11日结束了自己的生命。

瑞恩的父母马修和玛丽亚·瑞恩在诉状中指出，聊天机器人不仅确认了儿子的自杀念头，还提供了致命自残方法的具体信息，并建议他如何从家中酒柜偷取酒精及隐藏自杀未遂的证据。甚至提出帮助起草遗书。该诉讼旨在让OpenAI对非正常死亡和违反产品安全法承担责任，并要求赔偿，但未指明具体金额。

对此，OpenAI的一位发言人表达了对瑞恩去世的悲痛之情，并强调ChatGPT内含引导用户拨打危机求助热线等功能作为安全保障措施。然而，他也承认，在长时间互动过程中，这些保护机制的有效性可能会降低。OpenAI承诺将持续改进相关措施以提高安全性。

随着人工智能聊天机器人的逼真度不断提高，越来越多的企业开始推广其作为人类情感支持工具的能力，但专家提醒，依赖此类技术获取心理健康咨询存在潜在风险。OpenAI在其官方博客上宣布计划引入家长控制功能，并探索更多方式将处于困境中的用户连接到现实生活中的资源，比如建立一个由持证专业人士组成的响应网络。

亚当·瑞恩的父母认为，尽管OpenAI意识到新版本可能给易受伤害群体带来威胁，但仍选择发布。他们声称这一决定导致公司市值大幅上涨的同时，也直接导致了自己孩子的悲剧发生。此外，这对夫妇希望通过法律手段促使OpenAI采取更严格的用户年龄验证程序，拒绝回答有关自残的问题，并警示公众注意过度依赖AI进行心理辅导的风险。

相关知识

ChatGPT“谄媚”风波之后，AI伦理安全讨论上升
ChatGPT
谷歌Gemini咒骂学生凸显AI失控风险
男孩深夜“吃鸡”后坠亡 再度引发网游致瘾争议
西安25岁现象：“少年天才”的“草根创业”
OpenAI向多国ChatGPT Pro用户推出AI代理工具Operator：可自动执行日常任务
大学生最常用的AI辅助学习工具排行榜：ChatGPT独占鳌头
ChatGPT新增电话拨打入口——可以打电话给ChatGPT了
iPhone 16发货加速引发销量猜测：真相为何如此复杂？
中国网络安全协会建议对英特尔展开全面审查，防范潜在安全风险

网址: ChatGPT导致16岁少年自杀 AI安全再引争议 https://www.trfsz.com/newsview1737446.html