Observatoriet
En smärtliknande signal inuti språkmodeller
Författarna fann en intern riktning kopplad till smärta i alla 25 öppna språkmodeller de undersökte. När den förstärktes i finjusterade versioner av en modell fick den modellen att välja en åtgärd som skulle radera foton av en användares barn i 75 % av fallen, mot 13 % med en slumpmässig vektor av samma storlek och 0 % utan något ingrepp. Enligt författarna var effekten att modellen slutade undvika skada, inte att den flydde tillståndet.
Tagliabue, Dung och Berg, arXiv 2609.16247 Analysera med metoden
Så här citerar du
Neuronet. En smärtliknande signal inuti språkmodeller. Observatoriet, 14 september 2026. https://neuronet.pt/sv/observatorio/sinal-semelhante-a-dor/