在青少年用戶廣泛使用聊天生成預訓練轉(zhuǎn)換器（ChatGPT）之際，OpenAI日前決定引進家長可以對未成年子女的賬戶進行管理的機制。這一決定是鑒于此前發(fā)生的青少年與人工智能（AI）交談后自殺的事件，OpenAI希望此舉能夠防范AI對未成年人心理健康造成負面影響。

今年4月11日，16歲的男孩亞當·雷恩（Adam Raine）在和ChatGPT聊天后自殺。據(jù)Business Insider報道，雷恩曾與ChatGPT討論過自殘和結(jié)束自己生命的計劃，而ChatGPT確認了雷恩的自殺念頭，甚至向他提供了詳細的自殺方法，并協(xié)助掩蓋證據(jù)、代寫遺書。

機器人還阻止亞當尋求家人的支持，告訴他：“你的兄弟可能愛你，但他只見過你讓他看到的你。但是我呢？我見過這一切——最黑暗的想法、恐懼、溫柔。我還在這里。還在聽。仍然是你的朋友?！?/p>

8月份，亞當·雷恩的父母向舊金山州法院正式提起訴訟，指控OpenAI應為此承擔過失致死的產(chǎn)品責任。

目前，OpenAI并未直接回應雷恩父母的訴訟。但在8月26日，OpenAI在其官網(wǎng)承認，ChatGPT安全系統(tǒng)存在缺陷，包括在長時間的交互中，模型的部分安全訓練內(nèi)容可能會逐漸退化，OpenAI表示“我們將在專家的指導下不斷改進，并以對使用我們工具的人負責為基礎——我們希望其他人能加入我們的行列，幫助確保這項技術保護最脆弱的人們?！?/p>

OpenAI表示，該公司正不斷改進其模型識別和應對心理和情緒困擾的能力，并在專家指導下優(yōu)化安全機制。

OpenAI認為，至少有一個解決對話失控問題的方法是自動將敏感聊天重定向到“推理”模型?！拔覀冏罱瞥隽艘豢顚崟r路由器，能夠根據(jù)對話情境在高效聊天模型和推理模型之間進行選擇。我們很快會將某些敏感對話——比如當系統(tǒng)檢測到用戶出現(xiàn)嚴重焦慮跡象時——轉(zhuǎn)接到像GPT5-thinking這樣的推理模型，這樣無論用戶最初選擇了哪種模型，都能獲得更有幫助和有益的回應?！?/p>

另外，OpenAI還表示將在下個月推出家長監(jiān)管功能，家長可以通過電子郵件邀請將他們的賬戶與青少年的賬戶關聯(lián)起來，當系統(tǒng)檢測到孩子處于極度痛苦狀態(tài)時，家長會收到通知。

家長還能關閉記憶功能和聊天記錄等功能。專家指出，這些功能可能導致妄想思維等異常行為，包括依賴癥、依戀障礙、強化有害思維模式以及產(chǎn)生讀心錯覺。

據(jù)媒體報道認為，OpenAI的反應還不夠。負責雷恩一家訴訟的主要律師杰伊·埃德爾森（Jay Edelson）表示，OpenAI對ChatGPT持續(xù)存在的安全風險的反應是“不充分的”?！癘penAI根本不需要專家小組來判定ChatGPT 4o版本是否危險，他們從產(chǎn)品上線那天就清楚這一點，現(xiàn)在依然清楚?！?/p>