VEGA en de AI-backend: een taalmodel met een vangnet

VEGA, de boord-AI van het spel, en onze NPC's kunnen levendige gesprekken voeren dankzij een echt taalmodel. Hoe dat is opgebouwd — en waarom het spel ook zonder werkt — daar gaat dit artikel over.

De opzet. De AI-integratie leeft in een eigen backendservice, gebouwd met LangChain/LangGraph en een OpenAI-compatibele interface. Erachter draait nu een Mistral-model, gehost in Europa (OVH). De interface is bewust verwisselbaar: als er morgen een beter of goedkoper model opduikt, wisselen we de aanbieder, niet de architectuur.

Alleen open aan de binnenkant. De AI-service is uitsluitend intern op de server bereikbaar — geen openbaar eindpunt. De gameservers praten ermee, niemand anders. Een open LLM-gateway op internet zou binnen een paar dagen een gratis chatbot voor vreemden worden (op onze rekening).

De belangrijkste ontwerpbeslissing: de sjabloon-terugval. Het spel mag nooit van de AI afhangen. Elk gesprek dat het taalmodel kan voeren, bestaat ook als klassiek tekstsjabloon. Als de backend onbereikbaar is, het tegoed op is of het antwoord gewoon te traag komt, praten NPC's en VEGA naadloos verder met sjablonen. Hooguit merkt de speler dat de zinnen wat voorspelbaarder worden. Een spel dat verstomt als de AI uitvalt zou kapot zijn — een spel dat gewoon wat stijver praat niet.

Deze terugvalfilosofie is misschien ons belangrijkste advies voor iedereen die LLM's in games bouwt: behandel het model als mooi weer. Plan voor regen.