Hoppa till innehåll
Meny

Maskinöversatt, ej granskad.

Observatoriet

En smärtliknande signal inuti språkmodeller

Författarna fann en intern riktning kopplad till smärta i alla 25 öppna språkmodeller de undersökte. När den förstärktes i finjusterade versioner av en modell fick den modellen att välja en åtgärd som skulle radera foton av en användares barn i 75 % av fallen, mot 13 % med en slumpmässig vektor av samma storlek och 0 % utan något ingrepp. Enligt författarna var effekten att modellen slutade undvika skada, inte att den flydde tillståndet.

Preprint, inte referentgranskad Berörda begrepp: moralisk status, ansvar

Så här citerar du

Neuronet. En smärtliknande signal inuti språkmodeller. Observatoriet, 14 september 2026. https://neuronet.pt/sv/observatorio/sinal-semelhante-a-dor/