Observatorium
Et smertelignende signal inde i sprogmodeller
Forfatterne fandt en intern retning forbundet med smerte i alle 25 åbne sprogmodeller, de undersøgte. Forstærket i finjusterede versioner af én model fik den modellen til at vælge en handling, der ville slette billeder af en brugers børn, i 75 % af tilfældene, mod 13 % med en tilfældig vektor af samme størrelse og 0 % uden nogen indgriben. Ifølge forfatterne var virkningen, at modellen holdt op med at undgå skade, ikke at den forsøgte at undslippe tilstanden.
Tagliabue, Dung og Berg, arXiv 2609.16247 Analyser med metoden
Sådan citerer du
Neuronet. Et smertelignende signal inde i sprogmodeller. Observatorium, 14. september 2026. https://neuronet.pt/da/observatorio/sinal-semelhante-a-dor/