VEGA와 AI 백엔드: 안전망이 있는 언어 모델

게임의 우주선 AI인 VEGA와 NPC들은 진짜 언어 모델 덕분에 생생한 대화를 나눌 수 있어요. 이게 어떻게 만들어져 있는지, 그리고 그게 없어도 게임이 왜 돌아가는지가 이번 글의 주제예요.

구성. AI 연동은 LangChain/LangGraph로 만든 별도의 백엔드 서비스에 들어 있고, OpenAI 호환 인터페이스를 써요. 지금 그 뒤에는 유럽(OVH)에서 호스팅되는 Mistral 모델이 있어요. 인터페이스는 일부러 갈아 끼울 수 있게 했어요. 내일 더 좋거나 더 저렴한 모델이 나오면 구조가 아니라 공급자만 바꾸면 돼요.

안쪽에서만 열려 있어요. AI 서비스는 서버 내부에서만 접근할 수 있고, 공개 엔드포인트는 없어요. 게임 서버만 이 서비스와 이야기하고, 다른 누구도 못 해요. 인터넷에 열린 LLM 게이트웨이는 며칠 안에 낯선 사람들의 공짜 챗봇이 돼 버릴 거예요(우리 요금으로요).

가장 중요한 설계 결정은 템플릿 대체 수단이에요. 게임은 AI에 의존해서는 절대 안 돼요. 언어 모델이 할 수 있는 모든 대화는 전통적인 텍스트 템플릿으로도 존재해요. 백엔드에 연결할 수 없거나, 할당량을 다 썼거나, 응답이 너무 느리면 NPC와 VEGA는 끊김 없이 템플릿으로 계속 이야기해요. 플레이어는 기껏해야 문장이 조금 더 예측 가능해졌다고 느끼는 정도예요. AI가 실패했을 때 입을 다무는 게임은 고장 난 거지만, 조금 더 뻣뻣하게 말하는 게임은 그렇지 않아요.

이 대체 수단 철학은 게임에 LLM을 넣으려는 누구에게든 우리가 드리고 싶은 가장 중요한 조언일 거예요. 모델을 좋은 날씨처럼 대하세요. 비 오는 날도 계획해 두세요.