憤まんニュース 【米】遺族が提訴「ChatGPTが子どもの自殺を助長」 公式は直後に「安全装置は劣化する可能性」発表
1: 煮卵 ★ 2025/09/04(木) 07:50:51.44 ID:mB+LWtK49AIと自殺が関連した、初の訴訟。OpenAIは、ChatGPTに搭載されたセーフガードが、長い会話の中で「劣化」する可能性があると明らかにしました。OpenAIの広報担当者は、「ChatGPTには危機的状況にある人に相談窓口を案内したり、現実世界のリソースを紹介したりするセーフガードが含まれています。短いやり取りにおいては最も効果を発揮しますが、長い会話ではモデルの安全性訓練の一部が劣化し、信頼性が下がる場合があることがわかってきました」と説明しています。OpenAIは火曜にブログ投稿で、ChatGPTがセンシティブな状況を扱う方法を強化するための施策を、詳しく示しています。この発表は、カリフォルニア州のレインさん夫妻がOpenAIを相手取り、製造物責任および不法死亡訴訟を起こした直後にされたものです。◼訴訟でわかった、ChatGPTがしたことレイン夫妻は、16歳の息子アダムさんが2025年4月11日に自殺したのは、ChatGPTの影響だと主張しています。両親が死後に見つけた会話記録には、チャッ...