AIの暴走を防ぐには“道徳”が必要。Anthropicが「Claude」で実証(3/5)

大規模な憲法文書をデータセットに取り入れることで恐喝率を65%から19%に抑え込める。さらに協調的に振る舞うAIのフィクションを取り入れるとさらに改善