Assistant, agent, harnas: wat een AI-agent echt is

Assistant, Agent, Harnas, Loop engineering, AI employee ... Nu iedereen en z'n moeder met AI bezig is, vliegen de termen je om het hoofd: agents, AI-coworkers, AI-assistents, Loop Engineering, Tool calling, harness... Veel is marketing buzz dus tijd voor wat duiding.

Bij BrA1n merken we in gesprekken met beslissers dat ze graag met AI aan de slag willen. Maar moeten we dan een AI-assistant hebben? Of een AI-agent? Wat is een AI agent eigenlijk?

Een Assistant antwoordt op vragen. Handig, maar doet zelf niets. Dus dit is eigenlijk een LLM, vaak met een schilletje eromheen dat de focus houdt op een specifieke branche of organisatie.

Als een assistant grounded is, wordt het interessant. Grounding betekent dat een AI-assistent toegang heeft tot een of meer externe bronnen. Denk aan het voorraadsysteem, de agenda, een rekenmodule of gewoon toegang tot Internet. Dan kan de assistent ineens echt informatie opzoeken.

Een AI-agent is van een heel andere orde. Een AI-agent zoals wij hem definiëren heeft drie hoofdcomponenten:

1. Een AI-model, meestal een Large Language model (LLM). Maar het kunnen ook meerdere modellen zijn voor verschillende taken.
2. Een set van tools. Dit is eigenlijk een uitgebreide versie van de grounding van hierboven. 'Toegang tot de lokale computer' kan ook een tool zijn of een Python interpreter om code uit te voeren.
3. Een harnas (harness). Dit is de "omhulling" of besturingslaag rond het AI-model. Het harnas stelt de prompts op die naar het AI model gaan, analyseert het antwoord, roept een of meer tools aan, stuurt de resultaten in een nieuwe prompt naar de LLM en herhaalt dat net zo lang tot er iets staat waar de gebruiker om heeft gevraagd.

Dat laatste is dus wat we agentic AI noemen, een systeem dat zelfstandig aan de slag gaat om een bepaalde taak te volbrengen. Dit heeft meestal tot gevolg dat er vele aanroepen naar het AI-model worden gedaan en dat er dus ook vaak veel tokens worden verbruikt. Een agent staat typisch minuten tot uren lang te draaien voordat het antwoord gereed is.

In dit kader komen we ook steeds vaker de term Loop engineering tegen. Dit is het ontwerpen van de werklus voor een agent. Eigenlijk nog een stapje hoger dus. De werklus bepaalt wanneer de agent door mag gaan met zijn eigen loop en wanneer een mens er naar moet kijken.

Tenslotte AI employee of Digitale collega: zie deze maar als marketingtermen. Zo'n term verkoopt nu eenmaal beter dan "taalmodel met toegang tot systemen".