LLM's zijn relatieruimtes, geen kennispakhuizen

Vroeger dacht ik dat grote taalmodellen kennis leerden.

Nu ik meer tijd heb gestoken in Transformers en GPT, voelt een ander mentaal model steeds beter:

Het belangrijkste dat een LLM leert is geen kennis. Het leert relaties.

GPT lijkt minder op een pakhuis vol feiten, en meer op een hoogdimensionale ruimte van relaties over de wereld.

Woorden zijn niet het ding zelf

In het begin dacht ik dat het model woorden leerde.

Later merkte ik dat woorden vooral de ingang zijn.

Voor het model worden tokens zoals deze eerst ID’s:

kat
hond
appel
auto

Wat echt het neurale netwerk ingaat, is een vector.

Aan het begin van de training zijn die vectoren willekeurig. Ze betekenen nog niets. Tijdens training blijft het model hun posities aanpassen.

Uiteindelijk verschijnen er relaties in de ruimte:

kat staat dicht bij hond
hond staat dicht bij wolf
appel staat dicht bij fruit
auto staat ver van dier

Een embedding is dus niet echt een definitie van een concept.

Het is een coordinaat voor een concept.

Voor het model hangt wat een concept “is” minder af van een zin uit een woordenboek, en meer van de plek die het inneemt in het hele netwerk van relaties.

Betekenis komt uit relaties

Mensen houden van definities.

Bijvoorbeeld:

Een kat is een zoogdier.

Maar ik denk niet dat we “kat” begrijpen omdat we die zin uit ons hoofd kennen. We begrijpen het doordat we een veld van relaties kennen:

katten zijn dieren
katten jagen op muizen
katten houden van vis
katten lijken op tijgers
katten komen vaak voor als huisdieren

Als er genoeg relaties op hun plek vallen, wordt het concept helder.

Betekenis komt uit relaties.

Hoe rijker de relaties, hoe vollediger de betekenis.

Dit doet me denken aan een regel uit de Dao De Jing:

Zijn en niet-zijn brengen elkaar voort; moeilijk en makkelijk vervolledigen elkaar; lang en kort vormen elkaar; hoog en laag leunen op elkaar.

Lang en kort bestaan niet los van elkaar.

Hoog en laag bestaan niet los van elkaar.

De betekenis van een concept komt uit de manier waarop het zich tot andere concepten verhoudt. In die zin is er een vreemde resonantie tussen LLM’s en de Dao De Jing: allebei verschuiven ze de aandacht van losse objecten naar relaties.

Taal is gecomprimeerde relatie

Ik zie taal steeds meer als een compressieformaat.

Neem een zin als:

Het regende gisteren.

Achter die kleine zin zit veel verborgen structuur:

waterdamp nam toe
wolken vormden zich
de temperatuurvoorwaarden klopten
water condenseerde
regendruppels vielen
de grond werd nat

Niets daarvan staat expliciet in de zin.

Taal bewaart alleen de delen die nuttig genoeg zijn om over te dragen. Lezen is deels het herstellen van de relaties die zijn weggecomprimeerd.

Wanneer een mens een zin begrijpt, gebeurt er dus meer dan symbolen herkennen. We reconstrueren de relatiestructuur achter de symbolen.

Een trainingsvoorbeeld is een beperking

Vroeger dacht ik dat trainingsdata kennis in het model injecteerde.

Nu vind ik dit nuttiger:

Een trainingsvoorbeeld is een beperking op de relatieruimte.

Bijvoorbeeld:

Een kat jaagt op een muis.

Dat zijn niet alleen een paar woorden. Het drukt een relatie uit:

kat -> jaagt op -> muis

Nog een voorbeeld:

Beijing is de hoofdstad van China.

Die zin duwt meerdere relaties de ruimte in:

Beijing <-> China
Beijing <-> hoofdstad
China <-> hoofdstad

Elke zin in de trainingsset zegt eigenlijk:

Deze relaties zouden moeten kloppen.

Miljarden of biljoenen tekstfragmenten worden samen een enorm systeem van relatiebeperkingen.

Training zoekt een geometrie

Dat verandert ook hoe ik training begrijp.

Training is geen kennis in een model stoppen.

Training is zoeken naar een relatieruimte die zoveel mogelijk beperkingen tegelijk kan dragen.

Je kunt het zien als een gigantisch netwerk van veren.

Als de data vaak bevat:

kat en hond

dan wordt de ruimte geduwd om ze relatief dicht bij elkaar te houden.

Als de data bijna nooit een verband legt tussen:

kat en motor

dan kunnen ze verder uit elkaar blijven.

Training blijft de posities van al die punten aanpassen totdat de ruimte een enorme hoeveelheid relatiebeperkingen tegelijk kan verdragen.

Vanuit die hoek voegt een trainingsvoorbeeld niet simpelweg een feit toe. Het voegt een beperking toe aan de geometrie.

GPT is het resultaat van zoeken naar een hoogdimensionale structuur die al die beperkingen samen kan vasthouden.

Parameters zijn resolutie

Dit verandert ook hoe ik over parameters denk.

Mensen vragen vaak:

Hoeveel parameters heeft het model?

Ik denk niet dat het aantal parameters netjes overeenkomt met het aantal objecten dat het model “opslaat.”

Het lijkt meer op de resolutie van het wereldmodel.

Een kaart kopieert geen stad. Een kaart bewaart posities, wegen, afstanden, verbindingen en nuttige vervormingen.

Een model doet iets vergelijkbaars.

Meer parameters betekenen niet dat de hele wereld in het model is gestopt. Meer parameters betekenen dat het model fijnere relatiestructuren kan uitdrukken.

De wereld zit niet in GPT.

Wat in GPT zit, is een kaart van relaties over de wereld.

Naarmate het aantal parameters groeit, kan die kaart gedetailleerder worden.

Waar ik nu sta

Vroeger dacht ik:

LLM’s leren kennis.

Nu zit ik dichter bij:

LLM’s leren relaties.

Kennis is een lokaal patroon binnen een relatienetwerk.

Taal is een gecomprimeerde uitdrukking van relaties.

Trainingsdata is een verzameling relatiebeperkingen.

Training zoekt een hoogdimensionale ruimte die aan die beperkingen voldoet.

Parameters bepalen welke resolutie die ruimte kan bereiken.

Het belangrijkste product van een LLM is dus geen enorme kennisbank.

Het is een geometrische ruimte van relaties over de wereld.

Taal is alleen de schaduw die die ruimte werpt.