VEGA та ШІ-бекенд: мовна модель із запасним виходом

VEGA, бортовий ШІ гри, і наші NPC можуть вести живі розмови завдяки справжній мовній моделі. Як це влаштовано — і чому гра працює й без неї — про це ця стаття.

Будова. Інтеграція ШІ живе в окремому бекенд-сервісі, створеному на LangChain/LangGraph з OpenAI-сумісним інтерфейсом. Наразі за ним стоїть модель Mistral, розміщена в Європі (OVH). Інтерфейс свідомо замінний: якщо завтра з’явиться краща чи дешевша модель, ми змінимо провайдера, а не архітектуру.

Відкритий лише зсередини. Сервіс ШІ доступний виключно всередині сервера — жодної публічної кінцевої точки. З ним розмовляють ігрові сервери, більше ніхто. Відкритий LLM-шлюз в інтернеті за кілька днів став би безкоштовним чат-ботом для сторонніх (за наш рахунок).

Найважливіше проєктне рішення: шаблонний запасний варіант. Гра ніколи не повинна залежати від ШІ. Кожен діалог, який може вести мовна модель, існує також як класичний текстовий шаблон. Якщо бекенд недоступний, квота вичерпана або відповідь просто надто повільна, NPC і VEGA без перерви продовжують говорити шаблонами. Щонайбільше гравець помітить, що речення стали трохи передбачуванішими. Гра, що мовчить, коли ШІ відмовляє, була б зламаною — гра, що просто говорить трохи дерев’яніше, не зламана.

Ця філософія запасного варіанта — мабуть, наша найважливіша порада всім, хто вбудовує LLM в ігри: ставтеся до моделі, як до гарної погоди. Плануйте дощ.