Triage
Müşteriden gelen dağınık talebi yapılandırılmış veriye çeviren bir hat: aciliyet puanı, kategori, iki satırlık özet. Bir şey acilse webhook ve uyarı e-postası kendiliğinden gidiyor.
Triage'a serbest metin ya da JSON atıyorsun; karşılığında sabit şemaya zorlanmış bir cevap alıyorsun: 1-10 arası aciliyet, kategori, özet. Şemaya zorlandığı için sonuç her zaman makine tarafından kullanılabilir. "Bazen bozuk JSON dönüyor" derdi yok.
Aynı girdi için LLM'e iki kez para ödemek istemedim; cevaplar Redis'te cache'leniyor. Aynı Redis, tenant başına hız sınırlarını da tutuyor. Kayıtlar denetim izi için PostgreSQL'e düşüyor.
Bir talep aciliyet eşiğini aşarsa hat, işi ana akıştan ayırıp webhook ve e-posta atıyor. Üstünde küçük bir Next.js dashboard'u var: canlı akış, başarı oranı, cache isabet oranı.
- Şemaya zorlanmış çıktı, bozuk JSON yok
- Redis: LLM cache + tenant başına hız sınırı
- Acil işler webhook + e-postayı kendi tetikliyor
- Spring Boot, temiz katmanlı mimari