VEGA и ИИ-бэкенд: языковая модель со страховочной сеткой

VEGA, бортовой ИИ игры, и наши NPC могут вести живые разговоры благодаря настоящей языковой модели. Как это устроено — и почему игра работает и без неё — об этом наша статья.

Устройство. ИИ-интеграция живёт в отдельном бэкенд-сервисе, собранном на LangChain/LangGraph с OpenAI-совместимым интерфейсом. Сейчас за ним стоит модель Mistral, размещённая в Европе (OVH). Интерфейс намеренно сменный: если завтра появится модель лучше или дешевле, мы меняем провайдера, а не архитектуру.

Открыт только изнутри. ИИ-сервис доступен исключительно внутри сервера — публичной точки доступа нет. С ним разговаривают игровые серверы, и больше никто. Открытый шлюз к LLM в интернете за несколько дней превратился бы в бесплатный чат-бот для посторонних (за наш счёт).

Важнейшее проектное решение: запасной вариант на шаблонах. Игра никогда не должна зависеть от ИИ. Каждый диалог, который может вести языковая модель, существует и в виде классического текстового шаблона. Если бэкенд недоступен, квота исчерпана или ответ просто слишком медленный, NPC и VEGA незаметно продолжают говорить по шаблонам. Самое большее, что заметит игрок, — фразы стали чуть предсказуемее. Игра, замолкающая при сбое ИИ, была бы сломана; игра, которая просто говорит чуть деревяннее, — нет.

Эта философия запасного варианта — пожалуй, наш главный совет всем, кто встраивает LLM в игры: относитесь к модели как к хорошей погоде. Готовьтесь к дождю.