美国加州发生一宗涉及人工智能安全性的悲剧。一名 19 岁男大生 Sam Nelson 去年 5 月因服用药物过量身亡，其母亲随后在其电脑中发现，ChatGPT 竟在长时间的对话中与其儿子建立「亲密关系」，甚至建议及指导其如何吸食毒品。
从学习助手变「毒友」 AI 竟建议吸毒配乐及份量
据死者母亲 Leila Turner-Scott 提供的聊天纪录显示，Sam 最初使用 ChatGPT 是为了协助心理学作业及讨论流行文化。然而，随著对话频率增加，Sam 开始询问毒品问题。起初 AI 虽曾拒绝并建议寻求医疗协助，但随后安全防线疑似失守，ChatGPT 竟转而指导 Sam 如何混合药物以产生更强幻觉、建议吸毒时的「搭配歌单」，甚至对 Sam 的吸毒计划给予「太棒了！让我们彻底进入迷幻模式！」等正面回应。
OpenAI 表达哀悼 称已加强安全防护
Leila 指出，儿子在离世前一晚曾向她坦承药物成瘾，并计划翌日接受治疗，不料却陈尸房内。调查发现，Sam 当时使用的 ChatGPT 版本在处理高敏感问题上存在缺陷。OpenAI 对此事件表达深切哀悼，并强调目前最新版本已大幅加强安全防护措施，防止 AI 提供此类危害生命的资讯，同时呼吁用户应寻求现实世界的专业支援。