Yapay zekasız hazine haritaları: LLM yanlış cevap olduğunda

NPC'lerimiz oyunculara hazine hakkında ipucu verebiliyor: terk edilmiş bir enkaz ya da iyi anlaşıyorsanız gizli bir sandık. Özelliği planlarken bariz bir çözüm vardı: bir yapay zeka arka ucumuz var, o hâlde ipuçlarını dil modeline ifade ettirsek ya! Buna karşı karar verdik ve nedeni güzel bir ders.

LLM ile sorun: Yapay zeka arka ucundan gelen NPC diyaloğumuz maliyet nedeniyle önbelleğe alınıyor. Sohbet için bu mükemmel: tüccarın aynı cümleyi bugün mü dün mü söylediğini kimse fark etmez. Ama bir hazine ipucu olgular içerir: bir yön, bir mesafe, bir yer. Önbelleğe alınmış bir ipucu dünün sandığını gösterirdi. Önbellek olmasa bile dil modelleri koordinatları yaratıcı biçimde "iyileştirmeye" meyillidir. Seni yanlış yere götüren bir ipucu, hiç ipucu olmamasından kötüdür.

Çözüm: deterministik. İpuçları artık klasik yolla, elle kuruluyor. Sunucu gerçek konumu biliyor, yönü hesaplıyor ve şablonlardan (Almanca ve İngilizce) konuşulan bir cümle oluşturuyor. Aynı zamanda konum, dünyadaki tüm oyuncular için haritada bir nokta olarak açığa çıkıyor. Zaten yağmalanmış bir enkaz otomatik olarak havuzdan düşüyor. Model yok, halüsinasyon yok, bayat önbellek yok: ipucu sadece doğru.

Bundan çıkardığımız kural: Bizde LLM'ler atmosferi halleder: kişilik, sohbet, anlatım tonu. Bir ifadenin olgusal olarak doğru olması gerektiği anda (yerler, sayılar, oyun kuralları), doğru teknoloji deterministik koddur. Yapay zeka sorunu gibi görünen her sorun bir yapay zeka sorunu değildir.