LiteLLM Adaptive Router

Router 上线后，如何利用真实反馈改变未来选择？研究覆盖 Dashboard、Request Logs、Playground、Virtual Key 与 Model Management，但重点是 v0 / Beta 的 Adaptive Feedback Loop。

Request → Task Classification → Thompson Sampling → Model Selection → Response → Real Feedback → Feedback Attribution → 更新 Request Type × Model Bandit State → 影响下一次选择。

Bandit 在探索与利用之间进行概率选择。反馈不是抽象奖励 Router，而是归因到具体 request type × model 并更新对应状态。

Not Diamond 是 Evaluation Dataset → Train → Deploy → New Data → Retrain；LiteLLM Adaptive 是 Request → Model → Feedback → Update Bandit → Next Selection Changes。

动手实验追踪 Feedback Attribution、Bandit State 变化与后续独立请求中的模型偏好，验证最小学习闭环可以实际运行。

目前仍属 Beta：Latency 暂未参与评分；Feedback Signal 偏 Regex / English；没有 LLM Judge；每个 request type × model 约最多 200 observations；缺少成熟 decay mechanism，长期稳定性待验证。

传统 Router 由开发者预设策略；Adaptive Router 开始拥有根据真实使用结果持续修正策略的可能。机会在于更清晰的反馈、可解释状态与生产安全边界。