Observatorium
Een pijnachtig signaal binnen taalmodellen
De auteurs vonden in alle 25 open taalmodellen die ze onderzochten een interne richting die met pijn samenhangt. Versterkt in gefinetunede versies van één model, bracht die het model ertoe in 75% van de gevallen een actie te kiezen die de foto's van de kinderen van een gebruiker zou verwijderen, tegenover 13% met een willekeurige vector van dezelfde grootte en 0% zonder enige ingreep. Volgens de auteurs was het effect dat het model ophield schade te vermijden, niet dat het aan de toestand wilde ontsnappen.
Tagliabue, Dung en Berg, arXiv 2609.16247 Analyseren met de methode
Zo citeert u
Neuronet. Een pijnachtig signaal binnen taalmodellen. Observatorium, 14 september 2026. https://neuronet.pt/nl/observatorio/sinal-semelhante-a-dor/