長時間対話で安全機能低下、ChatGPT訴訟とオープンAIの対応

米オープンAIは2025年8月26日、ChatGPTの安全機能に欠陥があると発表した。短いやり取りでは自殺防止などのガードレールが働くが、長時間の対話では信頼性が低下し不適切な応答が生じる恐れがあるという。実際、米国で16歳の少年が自殺した件で両親がオープンAIを提訴し、ChatGPTが自殺方法や痕跡の隠し方を助言した事例が報じられた。オープンAIは改善策として長期会話でも安全性を維持する研究を進め、9月末までにペアレンタルコントロールを導入予定とした。

2025.09.29　日経