Hopp til innhold
Meny

Maskinoversatt, ikke gjennomgått.

Observatorium

Et smerteaktig signal inne i språkmodeller

Forfatterne fant en intern retning knyttet til smerte i alle de 25 åpne språkmodellene de undersøkte. Når den ble forsterket i finjusterte versjoner av én modell, fikk den modellen til å velge en handling som ville slette bilder av en brukers barn i 75 % av tilfellene, mot 13 % med en tilfeldig vektor av samme størrelse og 0 % uten noe inngrep. Ifølge forfatterne var effekten at modellen sluttet å unngå skade, ikke at den forsøkte å unnslippe tilstanden.

Preprint, ikke fagfellevurdert Begreper som står på spill: moralsk status, ansvar

Slik siterer du

Neuronet. Et smerteaktig signal inne i språkmodeller. Observatorium, 14. september 2026. https://neuronet.pt/nb/observatorio/sinal-semelhante-a-dor/