AI
关于模型、系统、产品与产业变化的持续知识记录。
知识点
一个可以独立成立的知识、机制或结论。
知识点
Gateway
Gateway 是模型、应用、用户、权限、流量和成本之间的统一控制入口，让企业 AI 请求可以被集中治理、观测和容灾。
AI · Gateway · Router · Failover
知识点
Redis
Redis 在 AI 系统中复用昂贵的模型、Embedding、检索与路由计算，让应用减少重复推理并降低延迟与成本。
AI · Redis · Cache · Semantic Cache
知识点
Bandit
Bandit 研究如何在不知道最佳选择时，通过探索、利用与真实反馈，让系统逐渐学会做决定。
AI · Bandit · Adaptive Router · Reward
知识点
Benchmark
Benchmark 通过统一任务、条件与评价体系，让模型和 Router 的质量、成本与延迟表现成为可以验证和比较的证据。
AI · Benchmark · MMLU · SWE-bench
知识点
Evals
Evals 为 AI 产品建立可重复的任务、数据集与评分方法，把模型、RAG、Router 和应用行为从主观感觉变成可测量、可回归的工程证据。
AI · Evals · Task Dataset Scorer · Benchmark
知识点
Reward
Reward 定义机器什么叫做对了，并把质量、成本、延迟、安全与业务目标翻译成可学习的决策信号。
AI · Reward · Adaptive Router · Bandit
知识点
Agent
Agent 不只是更聪明的聊天模型，而是利用 LLM 持续观察、决策与行动，直到完成目标的系统。
AI · Agent · LLM · Tools
知识点
LLM
从语言概率模型、Self-Attention、QKV、FFN 与位置编码出发，理解 Transformer 为什么成为现代大语言模型的技术基础。
AI · LLM · Transformer · Attention
知识点
Router
Router 不只是模型分发器，它可能逐渐演变成替整个 AI 系统决定执行路径的决策层。
AI · Router · Model Router · Semantic Router
知识点
RAG
RAG 不是模型，也不是插件，而是一套让 AI 在回答问题前自动检索外部资料，再把相关资料提供给 LLM 生成答案的软件架构方案。
AI · RAG · Retrieval · LLM