KI · Einem Modell in den Kopf schauen
Warum ist es so schwer, in ein Sprachmodell hineinzusehen?
Was du siehst
Ein Sprachmodell besteht aus Milliarden Zahlen, und wir kennen jede einzelne. Trotzdem können wir nicht ablesen, warum es so antwortet. Jedes Neuron feuert für viele unverbundene Ideen zugleich, Katzen, Autos und Poesie, weil das Modell mehr Ideen unterbringt, als es Neuronen hat. Forschende entwirren diese Mischungen nun in einzelne Merkmale, Faden für Faden.
