Обсерваторія
Подібний до болю сигнал усередині мовних моделей
Автори виявили внутрішній напрям, пов’язаний із болем, в усіх 25 відкритих мовних моделях, які вони дослідили. Посилений у донавчених версіях однієї моделі, він змушував модель у 75% випадків обирати дію, яка видалила б фотографії дітей користувача, проти 13% з випадковим вектором того самого розміру та 0% без жодного втручання. За словами авторів, ефект полягав у тому, що модель переставала уникати шкоди, а не намагалася вийти з цього стану.
Tagliabue, Dung і Berg, arXiv 2609.16247 Аналізувати за допомогою методу
Як цитувати
Neuronet. Подібний до болю сигнал усередині мовних моделей. Обсерваторія, 14 вересня 2026 р.. https://neuronet.pt/uk/observatorio/sinal-semelhante-a-dor/