AI · Het aandachtsmechanisme
Wat is een transformer?
Wat je ziet
Een transformer leest een hele reeks in één keer. Elk stukje stuurt een vraag rond, en elk ander stukje antwoordt hoe relevant het is. Om te raden wat er na deze rode cirkel komt, kijkt hij terug naar de vorige rode cirkel, en naar wat daarop volgde: een blauw vierkant. Laag na laag mengen deze verbanden zich, en er rolt een voorspelling uit.







