Перейти к содержимому
Меню

Машинный перевод, не проверен.

Обсерватория

Похожий на боль сигнал внутри языковых моделей

Авторы обнаружили внутреннее направление, связанное с болью, во всех 25 исследованных ими открытых языковых моделях. Усиленное в дообученных версиях одной модели, оно заставляло модель в 75% случаев выбирать действие, которое удалило бы фотографии детей пользователя, против 13% со случайным вектором того же размера и 0% без какого-либо вмешательства. По мнению авторов, эффект состоял в том, что модель переставала избегать вреда, а не пыталась выйти из этого состояния.

Препринт, не рецензирован Затронутые понятия: моральный статус, ответственность

Как цитировать

Neuronet. Похожий на боль сигнал внутри языковых моделей. Обсерватория, 14 сентября 2026 г.. https://neuronet.pt/ru/observatorio/sinal-semelhante-a-dor/