Yapay zekâ · Bir modelin zihnini okumak
Bir dil modelinin içini görmek neden bu kadar zor?
Neler göreceksin
Bir dil modeli milyarlarca sayıdan oluşur ve her birini biliyoruz. Yine de neden öyle yanıt verdiğini okuyamıyoruz. Her nöron, birbiriyle ilgisiz pek çok fikir için aynı anda ateşlenir, kediler, arabalar ve şiir, çünkü model nöronlarından daha fazla fikri içine sıkıştırır. Araştırmacılar artık bu karışımları ayrı özelliklere ayırıyor, her seferinde bir iplik.
