Posts tagged with #Backend

Write your blog post content here. This is a new blog post...

在给一个 Chat Agent 做内容过滤的时候使用了 ONNX 做小模型推理，这里记录一下。 ONNX 是一个适合做静态任务推理的模型。比如内容过滤场景，模型只需要 forward 一次就出结果，对这种任务，ONNX 可以生成优化后的静态计算图。由于图是静态的， ONNX 可以在加载模型时就做好一系列的优化、加载模型和推理速度都快很多。 使用如下命令导入模型： ```bash pip...

之前的 Drive MCP 设计中提到了 Resource，这里记录一下在实际使用 Resource 过程中遇到的问题：在用户 Attach File 后，我们使用前面说的 MCP Client 获取 Resource，然后把上下文 attach 到 system prompt 中： ```ts private async resolveResourceUris( uris:...

在封装 Drive Agent 的 Tool 调用时想到了使用 MCP，因为 MCP 是统一的协议、可以让我们的 Tool 被内置 Agent 外的东西通过 MCP Client 访问。比如实现完成后在 Copilot 访问 Drive 内文件： <Image src={image_2026_03_05_09_11_42} alt="alt text" /> <Image...

在前面搭建了最基本的 Agent 架构后，我们使用任务队列和 Redis Pub/Sub 来处理 Agent 的执行流程与消息发送。 使用任务队列和 Redis Pub/Sub 的具体方式如下： 1. 用户发送一个消息后，API 将任务入队然后返回 taskId，具体的完成交给 Worker。 2...

> 这是第一次设计这种比较完整的 Agent 系统并集成到实际应用中，因此记录一下实现 Google Drive Clone 的 Agent 部分的设计。 > LLM 调用直接使用 URL fetch 访问 Deepseek API，并且全部未使用 Agent 框架、直接手搓实现，之后可能会用框架重构一下。 Agent 包含的模块和交互流程如下： ```mermaid graph TD...

> 在一个项目中引入了 OnlyOffice 作为 office 编辑器，这里记录一下实现过程和一些配置上的坑。 ```mermaid graph TD subgraph Frontend[前端] direction TB A[React App] --> A1[浏览器打开<br>OnlyOffice 编辑器] end subgraph Backend[后端] direction TB...

> 在写连接池的时候遇到了一些并发的问题，在这里记录一下。 假设我们有一个管理 Docker 连接的连接池，我们需要检查池子是否需要补充新的容器。下面是一个最简单的实现： ```go func (p *Pool) maintainPool() { p. Lock() currentCount := len(p...

> 在写 React Query 的时候遇到了一个神奇的结构，这里记录一下。 Discriminated Dispatch Map / Type-safe Lookup Table 是一种利用联合类型+映射类型的数据类型，它在编译期强制保证：每一种 discriminator 都必须有一个处理逻辑，而且永远不会取到...

Write your blog post content here. This is a new blog post...