Observatoř
Signál podobný bolesti uvnitř jazykových modelů
Autoři našli vnitřní směr spojený s bolestí ve všech 25 otevřených jazykových modelech, které zkoumali. Když byl tento směr ve vyladěných verzích jednoho modelu zesílen, vedl model v 75 % případů k volbě akce, která by smazala fotografie dětí uživatele, oproti 13 % u náhodného vektoru stejné velikosti a 0 % bez jakéhokoli zásahu. Podle autorů byl účinkem to, že se model přestal vyhýbat škodě, nikoli že by se snažil uniknout danému stavu.
Tagliabue, Dung a Berg, arXiv 2609.16247 Analyzovat pomocí metody
Jak citovat
Neuronet. Signál podobný bolesti uvnitř jazykových modelů. Observatoř, 14. září 2026. https://neuronet.pt/cs/observatorio/sinal-semelhante-a-dor/