IA · Leer la mente de un modelo
¿Por qué es tan difícil ver dentro de un modelo de lenguaje?
Lo que verás
Un modelo de lenguaje son miles de millones de números, y los conocemos todos. Aun así, no sabemos leer por qué responde como responde. Cada neurona se activa a la vez por muchas ideas sin relación, gatos, coches y poesía, porque el modelo guarda más ideas que neuronas tiene. Los investigadores ya separan estas mezclas en rasgos distintos, hilo a hilo.
