模型路由 · 企业专属路由调研
Not Diamond Custom Router
企业专属 Router 的核心,是让企业定义什么叫好,再让 Router 学会这个标准。
01 / 研究问题
研究问题
如何让 Router 学会什么模型最适合这一家企业?Not Diamond 同时提供跨领域通用数据训练的 Pre-trained Router 与使用企业 Evaluation Data 的 Custom Router。
02 / 企业数据与评估
企业数据与评估
核心结构是 Prompt + Candidate Model Response + Evaluation Score。分数可来自人工、规则、测试用例、准确率、LLM-as-a-Judge 或领域指标,由企业定义什么叫好。
03 / 训练工作流
训练工作流
多个候选模型针对同一 Prompt 生成 Response 并获得 Score,训练后形成匿名化偏好配置。新 Prompt 与候选模型通过该配置得到 Model Selection。
04 / 输出边界与自定义模型
输出边界与自定义模型
Router 返回 Model Selection,而不是最终 Answer;应用仍需调用被选模型。Fine-tuned Model、Private Model、Agent 或 Custom Endpoint 也必须进入 Evaluation Dataset 并提供 Response + Score。
05 / 更新与重训
更新与重训
业务变化时,通过新增 Evaluation Rows 更新并重训同一偏好配置。这是 Offline Retraining / Updating,不是实时 Adaptive Router;页面不公开真实 preference ID。
06 / 产品洞察
产品洞察
通用 Router 能力容易趋同;企业自己的评估标准、响应和评分数据,才是定制路由长期积累的产品资产。
07 / 原始证据
原始证据
以下截图来自对应原始材料,只保留与当前页面相关的部分。