Mapy skarbów bez AI: gdy LLM jest złą odpowiedzią
Nasze postacie niezależne potrafią dawać graczom wskazówki o skarbach — porzucony wrak albo, jeśli jesteście w dobrych stosunkach, ukrytą skrzynię. Gdy planowaliśmy tę funkcję, jedno rozwiązanie wydawało się oczywiste: mamy backend AI, więc czemu nie pozwolić, żeby model językowy formułował te wskazówki! Zdecydowaliśmy się przeciwko — a powód to niezła lekcja.
Problem z LLM-em: Dialogi naszych postaci z backendu AI są z powodów kosztowych buforowane. Przy pogaduszkach to idealne — nikt nie zauważy, czy kupiec mówi dziś tę samą kwestię co wczoraj. Ale wskazówka o skarbie zawiera fakty: kierunek, odległość, miejsce. Zbuforowana wskazówka wskazywałaby wczorajszą skrzynię. A nawet bez bufora modele językowe mają skłonność do twórczego „ulepszania” współrzędnych. Wskazówka, która prowadzi na manowce, jest gorsza niż brak wskazówki.
Rozwiązanie: deterministyczne. Wskazówki są teraz budowane ręcznie, po staremu. Serwer zna prawdziwą pozycję, wylicza kierunek i składa wypowiedź z szablonów (po niemiecku i angielsku). Jednocześnie lokalizacja jest ujawniana jako punkt na mapie dla wszystkich graczy w świecie. Wrak, który został już splądrowany, automatycznie wypada z puli. Bez modelu, bez halucynacji, bez nieświeżych buforów — wskazówka po prostu jest poprawna.
Zasada, którą z tego wyciągnęliśmy: U nas LLM-y zajmują się atmosferą — osobowością, pogaduszkami, tonem narracji. Gdy tylko wypowiedź musi być zgodna z faktami (miejsca, liczby, zasady gry), właściwą technologią jest deterministyczny kod. Nie każdy problem, który wygląda na problem dla AI, nim jest.
Komentarze