AI · Membaca pikiran model

Mengapa begitu sulit melihat isi sebuah model bahasa?

Name: Mengapa begitu sulit melihat isi sebuah model bahasa?
Uploaded: 2026-10-25
Duration: 24 s
Description: Model bahasa adalah miliaran angka, dan kita tahu setiap angkanya. Namun kita tak bisa membaca mengapa ia menjawab seperti itu. Setiap neuron menyala untuk banyak gagasan yang tak berkaitan sekaligus, kucing, mobil, dan puisi, karena model memadatkan lebih banyak gagasan daripada jumlah neuronnya. Kini para peneliti mengurai campuran ini menjadi fitur-fitur terpisah, satu benang demi satu benang.

Yang akan Anda lihat

Model bahasa adalah miliaran angka, dan kita tahu setiap angkanya. Namun kita tak bisa membaca mengapa ia menjawab seperti itu. Setiap neuron menyala untuk banyak gagasan yang tak berkaitan sekaligus, kucing, mobil, dan puisi, karena model memadatkan lebih banyak gagasan daripada jumlah neuronnya. Kini para peneliti mengurai campuran ini menjadi fitur-fitur terpisah, satu benang demi satu benang.