MCP core for an LLM assistant
Backend core для LLM assistant с plugin execution, hot reload, tool chains и explicit context handoff.
Plugins могут меняться без перезапуска всего assistant runtime.
Полезная часть - predictable execution, а не просто доступ к model.
AI Tooling Developer
Когда assistant вырастает за пределы demo, plugins и tool calls становится сложно развивать без поломки runtime.
Собрал FastAPI execution core с plugin lifecycle management, hot reload, cascading tool calls и CLI client с execution history.
Новые tools можно добавлять без переписывания assistant core, а tool execution проще inspect.
- Сделал plugin hot reload без restart core process.
- Собрал explicit context handoff между chained tools.
- Разделил runtime responsibilities и plugin responsibilities.
- AI tooling становится useful, когда execution behavior predictable.
- Clean plugin boundary важнее количества подключенных models.
Ещё проекты
Каталог моделей nnzen
Живой LLM-каталог: собирает данные о моделях, нормализует их и помогает быстрее сравнивать варианты.
FastAPI backend performance cleanup
Оптимизация FastAPI API path: async I/O, connection reuse, Redis cache, request validation, metrics и удаление serial bottlenecks.