Observatorium
Ein schmerzähnliches Signal in Sprachmodellen
Die Autoren fanden in allen 25 offenen Sprachmodellen, die sie untersuchten, eine interne Richtung, die mit Schmerz verbunden ist. In feinabgestimmten Versionen eines Modells verstärkt, brachte sie das Modell dazu, in 75 % der Fälle eine Aktion zu wählen, die die Fotos der Kinder eines Nutzers löschen würde, gegenüber 13 % mit einem Zufallsvektor gleicher Größe und 0 % ohne jeden Eingriff. Laut den Autoren bestand der Effekt darin, nicht länger Schaden zu vermeiden, nicht darin, dem Zustand zu entkommen.
Tagliabue, Dung und Berg, arXiv 2609.16247 Mit der Methode analysieren
So zitieren Sie
Neuronet. Ein schmerzähnliches Signal in Sprachmodellen. Observatorium, 14. September 2026. https://neuronet.pt/de/observatorio/sinal-semelhante-a-dor/