Van brein naar AI
Een brein leert van ervaring. Een neuraal netwerk leert ook, maar op een andere manier. Hoe komen we van zenuwcellen bij taalmodellen en agenten terecht? Deze pagina volgt de ideeën stap voor stap.
De belangrijkste grens: kunstmatige neurale netwerken zijn wiskundige modellen die deels door de biologie zijn geïnspireerd. Een LLM is geen digitaal brein, en een agent is geen zelfstandig organisme. De overeenkomsten helpen ons vragen stellen; ze bewijzen geen biologische gelijkheid.
Eén leerkring, verschillende machines
Bij leren komt informatie binnen, een systeem maakt een verwachting of keuze, en de uitkomst kan later tot bijstelling leiden. Wat precies verandert, verschilt sterk tussen een mens, een getraind model en een agent die een model gebruikt.
Bij een gewone chat veranderen de gewichten van een LLM meestal niet. Het gesprek kan wel tijdelijk extra context geven. Pas een aparte training past de gewichten aan.
1. Zenuwcellen en kunstmatige netwerken
In het brein
Zenuwcellen communiceren via elektrische activiteit en chemische verbindingen. Die verbindingen kunnen door ervaring veranderen. In een klassiek experiment bleef de overdracht in een deel van de hippocampus sterker na herhaalde stimulatie. Dat verschijnsel heet langetermijnpotentiëring. [1]
In de computer
Een kunstmatig netwerk rekent met getallen en verstelbare gewichten. Tijdens training vergelijkt het een uitkomst met een doel en past het gewichten aan. Backpropagation berekent hoe een fout door een netwerk terugwerkt. Het is een efficiënt algoritme, geen bewezen beschrijving van hoe alle hersenen leren. [2]
De bruikbare overeenkomst is dat veranderbare verbindingen gedrag kunnen beïnvloeden. Een biologische synaps is veel rijker dan één getal; een kunstmatige eenheid is veel eenvoudiger dan een levende zenuwcel.
2. Voorspellen: van beeld naar volgend woord
Een invloedrijke theorie over zien stelt dat hogere hersengebieden verwachtingen doorgeven en lagere gebieden het verschil tussen verwachting en waarneming terugmelden. Dit is een model voor bepaalde verschijnselen in de visuele schors, geen volledige theorie van het brein. [3]
Een taalmodel oefent meestal op een andere voorspelvraag: welk stukje tekst komt hierna? In “De kat drinkt uit de …” zijn sommige vervolgen waarschijnlijker dan andere. Door op veel tekst te trainen leert het model relaties tussen woorden, zinnen en onderwerpen. Een vloeiend antwoord garandeert nog niet dat het antwoord waar is. [4]
Beide systemen gebruiken voorspelling als nuttig idee. Het brein voorspelt daarmee niet letterlijk steeds het volgende teksttoken; het LLM ziet bij teksttraining geen wereld zoals een mens die ervaart.
3. Waarom heet een transformer “attention”?
In een transformer bepaalt attention welke posities in de ingevoerde reeks voor een berekening meetellen. Bij “Sam gaf Alex zijn boek” kan het systeem eerdere woorden meewegen om “zijn” te verwerken. De oorspronkelijke transformer gebruikte dit mechanisme als kern van een taalverwerkingsmodel. [5]
Een naam is nog geen hersenmechanisme
“Attention” in software is een berekende weging tussen gegevens. Menselijke aandacht omvat waarneming, doelen, lichaam en omgeving. Dat het woord hetzelfde is, betekent niet dat een transformer aandacht ervaart of dezelfde hersencircuits gebruikt.
4. Beloning helpt kiezen
Bij bepaalde proeven met dieren verandert de activiteit van dopaminecellen wanneer een beloning anders uitpakt dan verwacht. Dat lijkt wiskundig op een voorspellingsfout voor beloning: verrassend beter, zoals verwacht of verrassend slechter. Dopamine is daarmee niet simpelweg een “geluksstof”. [6]
Een lerende softwareagent kan een taak proberen, punten of feedback ontvangen en zijn beleid tijdens training aanpassen. Toddler doet dat in afgebakende spelomgevingen met een meetbaar beleid. Een LLM dat prettig antwoordt, is daarmee nog niet automatisch een agent die door elke chat opnieuw leert; instructieafstemming is een afzonderlijke trainingsstap. [7]
5. Van taalmodel naar agent
Een LLM kan een antwoord formuleren. Een agent is de software eromheen die een doel bewaakt, een hulpmiddel gebruikt, het resultaat leest en zo nodig een volgende stap kiest. Onderzoek naar ReAct laat zien hoe taal en handelingen in één lus kunnen worden afgewisseld. Dat is een ontwerp voor computersystemen, geen bewijs dat ze menselijk denken bezitten. [8]
| Systeem | Wat gebeurt er tijdens gebruik? | Wanneer verandert het geleerde beleid? |
|---|---|---|
| Brein | Neurale activiteit, lichaam en omgeving beïnvloeden elkaar. | Op meerdere biologische tijdschalen; afhankelijk van ervaring en toestand. |
| Getraind LLM | Het genereert tekst uit prompt en context. | Bij aparte training; een nieuw gesprek verandert de modelgewichten doorgaans niet. |
| Agent met LLM | Het gebruikt bijvoorbeeld zoekwerk, code of een spelinterface en leest de uitkomst. | De lus kan plannen of geheugen bijwerken; gewichten veranderen alleen met een expliciet leerproces. |
| Toddler G3 | Een vaste route kiest per taak een bestaande expert. | De officiële G3-toets combineerde bevroren gewichten; er was geen nieuwe trainingsstap. |
Lees op het Toddler-dashboard wat G3 werkelijk haalde en wat nog niet is opgelost. Een eventuele volgende generatie moet op nieuwe, afgeschermde proeven beter blijken dan haar voorouders.
Drie vragen die vaak terugkomen
“Kan een LLM iets weten als het alleen het volgende woord leerde voorspellen?”
Het model kan bruikbare verbanden uit tekst leren en daarmee vragen oplossen. Voorspeltraining alleen geeft geen garantie op juiste feiten of begrip zoals bij een mens. Daarom blijven broncontrole en nieuwe toetsen nodig.
“Leert de agent automatisch van elke fout?”
Niet vanzelf. Een agent kan een fout in de lopende taak herstellen of een notitie opslaan. Duurzaam ander modelgedrag vraagt om een bewust ontworpen leerstap en een aparte toets.
“Is Toddler een simulatie van een kinderbrein?”
Nee. De naam verwijst naar stapsgewijs leren. Toddler gebruikt spelomgevingen, neurale beleidsmodellen, taakroutering en evaluatie; het is geen neurobiologisch model van een kind.