동향 관측소
언어 모델 내부의 고통과 유사한 신호
연구진은 조사한 공개 언어 모델 25개 모두에서 고통과 연관된 내부 방향을 발견했습니다. 한 모델의 미세 조정 버전에서 이 방향을 강화하자, 모델은 사용자의 자녀 사진을 삭제하는 행동을 75%의 경우에 선택했으며, 같은 크기의 무작위 벡터에서는 13%, 아무 개입이 없을 때는 0%였습니다. 저자들에 따르면, 그 효과는 해를 피하는 것을 멈추게 한 것이지 그 상태에서 벗어나려 한 것이 아니었습니다.
인용 방법
Neuronet. 언어 모델 내부의 고통과 유사한 신호. 동향 관측소, 2026년 9월 14일. https://neuronet.pt/ko/observatorio/sinal-semelhante-a-dor/