Observatoire
Un signal semblable à la douleur dans les modèles de langage
Les auteurs ont trouvé une direction interne associée à la douleur dans chacun des 25 modèles de langage ouverts qu'ils ont examinés. Amplifiée dans des versions affinées d'un modèle, elle a conduit le modèle à choisir une action qui supprimerait les photos des enfants d'un utilisateur dans 75 % des cas, contre 13 % avec un vecteur aléatoire de même taille et 0 % sans aucune intervention. Selon les auteurs, l'effet était de cesser d'éviter le préjudice, et non d'échapper à cet état.
Tagliabue, Dung et Berg, arXiv 2609.16247 Analyser avec la Méthode
Comment citer
Neuronet. Un signal semblable à la douleur dans les modèles de langage. Observatoire, 14 septembre 2026. https://neuronet.pt/fr/observatorio/sinal-semelhante-a-dor/