Přeskočit na obsah
Nabídka

Strojový překlad, nezkontrolovaný.

Observatoř

Signál podobný bolesti uvnitř jazykových modelů

Autoři našli vnitřní směr spojený s bolestí ve všech 25 otevřených jazykových modelech, které zkoumali. Když byl tento směr ve vyladěných verzích jednoho modelu zesílen, vedl model v 75 % případů k volbě akce, která by smazala fotografie dětí uživatele, oproti 13 % u náhodného vektoru stejné velikosti a 0 % bez jakéhokoli zásahu. Podle autorů byl účinkem to, že se model přestal vyhýbat škodě, nikoli že by se snažil uniknout danému stavu.

Preprint, bez recenzního řízení Dotčené pojmy: morální status, odpovědnost

Jak citovat

Neuronet. Signál podobný bolesti uvnitř jazykových modelů. Observatoř, 14. září 2026. https://neuronet.pt/cs/observatorio/sinal-semelhante-a-dor/