Observatorium
Sinyal mirip rasa sakit di dalam model bahasa
Para penulis menemukan arah internal yang terkait dengan rasa sakit pada ke-25 model bahasa terbuka yang mereka periksa. Ketika arah ini diperkuat dalam versi hasil fine-tuning dari satu model, model tersebut memilih tindakan yang akan menghapus foto anak-anak seorang pengguna pada 75% kasus, dibandingkan 13% dengan vektor acak berukuran sama dan 0% tanpa intervensi apa pun. Menurut para penulis, efeknya adalah berhenti menghindari bahaya, bukan melarikan diri dari keadaan tersebut.
Tagliabue, Dung dan Berg, arXiv 2609.16247 Analisis dengan Metode
Cara mengutip
Neuronet. Sinyal mirip rasa sakit di dalam model bahasa. Observatorium, 14 September 2026. https://neuronet.pt/id/observatorio/sinal-semelhante-a-dor/