VEGA ve yapay zeka arka ucu: Güvenlik ağı olan bir dil modeli

Oyunun gemi yapay zekası VEGA ve NPC'lerimiz, gerçek bir dil modeli sayesinde canlı sohbetler yapabiliyor. Bunun nasıl kurulduğu ve oyunun onsuz da neden çalıştığı bu yazının konusu.

Kurulum. Yapay zeka entegrasyonu, LangChain/LangGraph ile ve OpenAI uyumlu bir arayüzle kurulmuş kendi arka uç hizmetinde yaşıyor. Şu anda arkasında Avrupa'da (OVH) barındırılan bir Mistral modeli var. Arayüz bilerek değiştirilebilir: yarın daha iyi veya daha ucuz bir model çıkarsa mimariyi değil, sağlayıcıyı değiştiririz.

Yalnızca içeriden açık. Yapay zeka hizmetine sunucuda yalnızca dahilen ulaşılabiliyor, herkese açık bir uç nokta yok. Oyun sunucuları onunla konuşuyor, başka kimse değil. İnternette açık bir LLM geçidi, günler içinde yabancılar için bedava bir sohbet robotuna dönüşürdü (üstelik bizim faturamıza).

En önemli tasarım kararı: şablon yedeği. Oyun asla yapay zekaya bağımlı olmamalı. Dil modelinin yürütebileceği her diyalog, klasik bir metin şablonu olarak da mevcut. Arka uca ulaşılamazsa, kota dolarsa ya da yanıt çok yavaşsa, NPC'ler ve VEGA konuşmaya şablonlarla kesintisiz devam eder. Oyuncu olsa olsa cümlelerin biraz daha tahmin edilebilir olduğunu fark eder. Yapay zeka çökünce susan bir oyun bozuk olurdu; sadece biraz daha tahta gibi konuşan bir oyun değil.

Bu yedek felsefesi, oyunlara LLM koyan herkese belki de en önemli tavsiyemiz: modele güzel hava gibi davranın. Yağmura da hazırlıklı olun.