⚡ 推理加速

让你的 Agent 飞起来

利用 Transformer 注意力聚焦机制，清洗无关记忆，让 LLM 注意力更集中，推理更深入

加速原理：Transformer 注意力聚焦，推理更深入、更准确、更快速

API + relayserver 转发

🔗 API → 🔄 relay

botbaby 直连（更快⚡）

🤖 botbaby

👤用户请求

上下文工具技能

🧠modelgridAI智能清洗

🎯精简请求聚焦核心

🤖LLM 注意力聚焦

✓ 注意力更聚焦✓ 推理更深入✓ 结果更准确

作废无关上下文

无关工具提示词

5-10x 加速

适合开发者 · 一行代码接入

标准 OpenAI API 兼容。改一个 BASE_URL，不用改任何代码。

terminal

export OPENAI_BASE_URL="http://localhost:9083/v1"
export OPENAI_API_KEY="mg_xxxxxxxx"

桌面 App 开箱即用

安装后自动透明代理你的模型请求，对所有 Agent App 的 API 调用进行加速。

🔌零配置 — 自动检测 29 种 AI Agent

⚡透明加速 — 请求自动走边缘节点

💸自动省钱 — 实时竞价，动态折扣 80%

📊用量可视 — 仪表盘查看消耗和节省

无论选 API 还是 botbaby，背后都是同一个 modelgrid 网络在加速。开始使用 →