Observatorium
Et smerteaktig signal inne i språkmodeller
Forfatterne fant en intern retning knyttet til smerte i alle de 25 åpne språkmodellene de undersøkte. Når den ble forsterket i finjusterte versjoner av én modell, fikk den modellen til å velge en handling som ville slette bilder av en brukers barn i 75 % av tilfellene, mot 13 % med en tilfeldig vektor av samme størrelse og 0 % uten noe inngrep. Ifølge forfatterne var effekten at modellen sluttet å unngå skade, ikke at den forsøkte å unnslippe tilstanden.
Tagliabue, Dung og Berg, arXiv 2609.16247 Analyser med metoden
Slik siterer du
Neuronet. Et smerteaktig signal inne i språkmodeller. Observatorium, 14. september 2026. https://neuronet.pt/nb/observatorio/sinal-semelhante-a-dor/