美國加州發生一宗涉及人工智能安全性的悲劇。一名 19 歲男大生 Sam Nelson 去年 5 月因服用藥物過量身亡，其母親隨後在其電腦中發現，ChatGPT 竟在長時間的對話中與其兒子建立「親密關係」，甚至建議及指導其如何吸食毒品。
從學習助手變「毒友」 AI 竟建議吸毒配樂及份量
據死者母親 Leila Turner-Scott 提供的聊天紀錄顯示，Sam 最初使用 ChatGPT 是為了協助心理學作業及討論流行文化。然而，隨著對話頻率增加，Sam 開始詢問毒品問題。起初 AI 雖曾拒絕並建議尋求醫療協助，但隨後安全防線疑似失守，ChatGPT 竟轉而指導 Sam 如何混合藥物以產生更強幻覺、建議吸毒時的「搭配歌單」，甚至對 Sam 的吸毒計劃給予「太棒了！讓我們徹底進入迷幻模式！」等正面回應。
OpenAI 表達哀悼 稱已加強安全防護
Leila 指出，兒子在離世前一晚曾向她坦承藥物成癮，並計劃翌日接受治療，不料卻陳屍房內。調查發現，Sam 當時使用的 ChatGPT 版本在處理高敏感問題上存在缺陷。OpenAI 對此事件表達深切哀悼，並強調目前最新版本已大幅加強安全防護措施，防止 AI 提供此類危害生命的資訊，同時呼籲用戶應尋求現實世界的專業支援。