AI · Gedachtelezen bij een model
Waarom is het zo moeilijk om in een taalmodel te kijken?
Wat je ziet
Een taalmodel bestaat uit miljarden getallen, en we kennen ze allemaal. Toch kunnen we niet aflezen waarom het antwoordt zoals het doet. Elk neuron vuurt voor veel losse ideeën tegelijk, katten, auto's en poëzie, omdat het model meer ideeën inpakt dan het neuronen heeft. Onderzoekers ontwarren die mengsels nu tot aparte kenmerken, draad voor draad.
