Обсерватория
Похожий на боль сигнал внутри языковых моделей
Авторы обнаружили внутреннее направление, связанное с болью, во всех 25 исследованных ими открытых языковых моделях. Усиленное в дообученных версиях одной модели, оно заставляло модель в 75% случаев выбирать действие, которое удалило бы фотографии детей пользователя, против 13% со случайным вектором того же размера и 0% без какого-либо вмешательства. По мнению авторов, эффект состоял в том, что модель переставала избегать вреда, а не пыталась выйти из этого состояния.
Tagliabue, Dung и Berg, arXiv 2609.16247 Анализировать по Методу
Как цитировать
Neuronet. Похожий на боль сигнал внутри языковых моделей. Обсерватория, 14 сентября 2026 г.. https://neuronet.pt/ru/observatorio/sinal-semelhante-a-dor/