返回案例
2025Solo
MCP core for an LLM assistant
LLM assistant 的 backend core，包含 plugin execution、hot reload、tool chains 和 explicit context handoff。
Hot reload
Context handoff
CLI + API
Execution core
Plugins 可以变化，而不用重启整个 assistant idea。
有用的部分是 predictable execution，不只是接入 model。
1Plugin lifecycle 与 core runtime 分离
2Hot reload 让迭代更快
3Tool chains 显式传递 context
AI Tooling Developer
PythonFastAPIMCPTool callingLLM APIs
问题
Assistant 超过 demo 阶段后，plugins 和 tool calls 很难在不破坏 runtime 的情况下继续演进。
方案
构建 FastAPI execution core，包含 plugin lifecycle management、hot reload、cascading tool calls，以及带 execution history 的 CLI client。
结果
可以添加新 tools 而不重写 assistant core，并且 tool execution 更容易 inspect。
我做了什么
- 实现 plugin hot reload，不需要重启 core process。
- 在 chained tools 之间建立 explicit context handoff。
- 把 runtime responsibilities 和 plugin responsibilities 分开。
这说明了什么
- AI tooling 在 execution behavior predictable 时才真正有用。
- Clean plugin boundary 比接入更多 models 更重要。
相关项目
更多项目
2025-2026
nnzen 模型目录
实时 LLM 模型目录：收集模型数据、统一格式，并让模型比较更快完成。
PythonFastAPILLM APIsRAGVector DB / pgvector
2024-2025
FastAPI backend performance cleanup
优化 FastAPI API path：async I/O、connection reuse、Redis cache、request validation、metrics 和移除 serial bottlenecks。
PythonFastAPIasyncioPydanticRedis