本文へ移動
メニュー

機械翻訳です。内容は校閲されていません。

オブザーバトリー

言語モデルの中の痛みのような信号

著者らは、調べた25のオープン言語モデルすべてで、痛みに関連する内部方向を発見した。あるモデルのファインチューニング版でこの方向を強めると、モデルはユーザーの子どもの写真を削除する行動を75%の確率で選んだ。同じ大きさのランダムなベクトルでは13%、介入なしでは0%だった。著者らによれば、その効果は害の回避をやめることであり、その状態から逃れることではなかった。

プレプリント(ピアレビュー未実施) 問われる概念:道徳的地位、責任

引用方法

Neuronet. 言語モデルの中の痛みのような信号. オブザーバトリー, 2026年9月14日. https://neuronet.pt/ja/observatorio/sinal-semelhante-a-dor/