观察站
语言模型中类似疼痛的信号
作者在所研究的全部25个开放语言模型中发现了一个与疼痛相关的内部方向。在某一模型的微调版本中将其调高后,该模型有75%的情况会选择一项将删除用户子女照片的操作,而使用同等大小的随机向量时为13%,不加任何干预时为0%。据作者称,其效果是让模型不再回避伤害,而不是摆脱这种状态。
如何引用
Neuronet. 语言模型中类似疼痛的信号. 观察站, 2026年9月14日. https://neuronet.pt/zh/observatorio/sinal-semelhante-a-dor/