본문으로 건너뛰기
메뉴

기계 번역이며 검토되지 않았습니다.

동향 관측소

언어 모델 내부의 고통과 유사한 신호

연구진은 조사한 공개 언어 모델 25개 모두에서 고통과 연관된 내부 방향을 발견했습니다. 한 모델의 미세 조정 버전에서 이 방향을 강화하자, 모델은 사용자의 자녀 사진을 삭제하는 행동을 75%의 경우에 선택했으며, 같은 크기의 무작위 벡터에서는 13%, 아무 개입이 없을 때는 0%였습니다. 저자들에 따르면, 그 효과는 해를 피하는 것을 멈추게 한 것이지 그 상태에서 벗어나려 한 것이 아니었습니다.

프리프린트, 동료 심사 전 쟁점 개념: 도덕적 지위, 책임

인용 방법

Neuronet. 언어 모델 내부의 고통과 유사한 신호. 동향 관측소, 2026년 9월 14일. https://neuronet.pt/ko/observatorio/sinal-semelhante-a-dor/