基于 RT-Thread 打造的智能代理框架，可实现具备工具调用能力的大语言模型（LLM）交互。
本框架可用于构建智能代理，通过 API 调用与大语言模型交互、处理工具请求，并维护对话上下文。框架支持工具执行、会话状态管理、多通道交互（CLI / WebNet / Debug），以及"进入对话 → 清理 → 再次进入"的完整生命周期管理（清理后内存回到基线）。
-
打开 menuconfig，进入
RT-Thread online packages → AI packages → AI packages lightweight agent software for RT-Thread目录下； -
配置
Agent Runtime Configuration
-
配置交互通道
Agent communication channel；默认 CLI 交互
-
进入
RT-Thread online packages → security packages → mbedtls菜单，修改Maxium fragment length in bytes字段为 6144（否则 TLS 会握手失败）
-
进入
RT-Thread online packages → IoT - internet of things → WebClient: A HTTP/HTTPS Client for RT-Thread选择MbedTLS support
-
退出保存配置，输入
pkgs --update拉取软件包； -
编译，运行；
-
运行效果：
输入
main_loop_entry进入聊天终端，CTRL+D 退出聊天窗口返回 MSH 终端； 退出后执行cleanup_agent_entry清理全部资源（释放内存），可再次main_loop_entry重新进入对话。
框架由多个核心组件协同工作，实现智能代理完整能力。详细设计见 框架文档。
- AgentLoop：代理主执行循环，统筹大模型交互与工具调度流程，负责生命周期管理（init/cleanup）
- Chat：负责与大模型 API 通信，流式（SSE）响应解析（思考 / 正文 / 工具调用）
- MessageHub：基于 RT-Thread 邮箱机制，管理各组件之间的消息传递（支持可中断的超时接收）
- Context：维护对话历史，保存大模型交互上下文信息（支持清空与裁剪）
- Tool System（工具系统）：提供工具注册、查找、执行与统一管理能力（支持整体清理与重新注册）
- Channels（通道系统）：负责外接交互界面（CLI / WebNet / Debug），通过统一的
AgentChannelOps函数指针接口接入
classDiagram
direction TB
%% ========== 第1层：顶层调度 AgentLoop（唯一入口） ==========
class AgentLoop {
+init_agent()
+agent_loop(ctx, tools, on_reasoning, on_tool_call, on_context)
+main_loop_entry()
+cleanup_agent_entry()
+cleanup_agent()
-g_channel_ops : AgentChannelOps*
}
%% ========== 第2层：核心组件（仅与 AgentLoop 交互） ==========
class MessageHub {
-input_mailbox : rt_mailbox_t
-output_mailbox : rt_mailbox_t
+message_hub_create() MessageHub_t
+message_hub_destroy(hub)
+message_hub_put(hub, message, mb) rt_err_t
+message_hub_get(hub, mb) Messages_t
+message_hub_get_timeout(hub, mb, timeout) Messages_t
}
class Context {
-message : cJSON*
+agent_context_create() Context_t
+agent_context_destroy(context)
+build_system_prompt(self)
+append_user_message(self, messages)
+append_assistant_message(self, resp)
+append_tool_message(self, tool_call_id, messages)
+clear_message(self)
+trim_context(self, keep_items)
}
class Chat {
+chat(messages, tools, max_tokens, on_reasoning, on_tool_call, on_context) ChatResponse_t
+chat_response_free(resp)
}
class ToolBase {
+agent_tool_list_create() rt_err_t
+append_tool(tool_obj, execute_func) rt_err_t
+build_tools_json() cJSON*
+get_agent_tools() cJSON*
+search_agent_tool_node(tool_obj) AgentToolNode_t
+free_agent_tool_node(node)
+agent_tool_list_destroy()
}
%% ========== 第3层：内部从属对象（仅归属上层组件） ==========
class Messages {
-message_ptr : MessageItem_t
-max_size : int
-current_size : int
+messages_create(max_size) Messages_t
+messages_append(messages, type, content) rt_err_t
+messages_destroy(messages)
+messages_get_content_idx(messages, idx) char*
+messages_get_type_idx(messages, idx) MessageType
}
class ChatResponse {
+char* reasoning
+char* context
+cJSON* tool_call
}
class AgentToolNode {
+cJSON* tool_obj
+AgentToolRet ret
+execute_func(param, node)
+AgentToolNode* next
}
class AgentToolRet {
+rt_err_t ret
+Messages_t messages
}
%% ========== 第4层：业务工具实现（仅绑定 ToolNode） ==========
class ToolAdd {
+tool_add(args_obj, node)
}
class ToolMul {
+tool_mul(args_obj, node)
}
class ToolCompare {
+tool_compare(args_obj, node)
}
%% ========== 第5层：交互通道（ops 接口，函数指针统一分发） ==========
class AgentChannelOps {
<<interface>>
+init(hub, ctx) int
+reset() void
}
class CLIChannel {
+agent_cli_channel(hub, ctx) int
+agent_cli_stop() void
}
class WebNetChannel {
+webnet_agent_mode(hub, ctx) void
+agent_webnet_reset() void
}
class DebugChannel {
+agent_debug_channel(hub, ctx) int
+agent_debug_reset() void
}
%% ========== 关联关系 ==========
%% 顶层调度 聚合 第二层组件
AgentLoop *-- MessageHub
AgentLoop *-- Context
AgentLoop *-- Chat
AgentLoop *-- ToolBase
%% 通道 ops：函数指针（聚合，非组合）
AgentLoop o-- AgentChannelOps : g_channel_ops
%% 第二层 → 第三层（内部对象）
MessageHub *-- Messages : 邮箱传递
Chat --> ChatResponse : 返回
ToolBase *-- AgentToolNode
AgentToolNode *-- AgentToolRet
%% 第四层业务工具绑定 ToolNode
ToolAdd --> AgentToolNode
ToolMul --> AgentToolNode
ToolCompare --> AgentToolNode
%% 第五层通道实现 ops 接口
CLIChannel ..|> AgentChannelOps
WebNetChannel ..|> AgentChannelOps
DebugChannel ..|> AgentChannelOps
- 主执行循环，统筹大语言模型与工具之间交互流程
- 支持多级工具调用循环（最多 10 轮），配套完整上下文管理
- 在整个代理交互生命周期维护会话状态
- MessageHub 统一处理组件间通信（输入/输出双邮箱）
- 支持多种交互通道（CLI / WebNet / Debug），统一 ops 接口接入
- 基于 RT-Thread 邮箱实现高效消息收发，支持超时接收，清理不卡死
- 维护带角色区分的完整对话历史（system / user / assistant / tool）
- 支持系统提示词、清空会话、按条数裁剪上下文
- 为大模型 API 请求组织对话上下文
- 支持动态注册与检索工具
- 自动解析参数并执行工具函数，结果回填上下文
- 内置多种工具示例：加法、乘法、比较运算（扩展见 工具开发指南）
- 兼容大模型流式返回数据（SSE）
- 独立解析思考过程、回答正文与工具调用报文
- 网络超时保护，避免阻塞清理流程
main_loop_entry进入对话，cleanup_agent_entry清理全部资源- 支持"进入 → 对话 → 清理 → 再进入"无限循环，清理后堆内存回到基线
- 清理内置堆内存快照日志（
[mem] cleanup done），便于验证无泄漏
代理主循环模块职责：
- 初始化 MessageHub、上下文、工具、通道（ops 函数指针统一分发）等所有组件
- 调度与大模型的对话流程（含工具循环）
- 解析并执行工具调用指令，管理完整对话循环
- 生命周期管理：
init_agent/cleanup_agent（释放 hub、context、工具链、通道资源）
负责对接大模型 API：
- 组装携带对话记录与工具列表的网络请求
- 解析流式（SSE）响应报文
- 提取模型思考内容、回答输出与工具调用信息（按 index 合并分片）
组件消息调度中心：
- 创建输入、输出邮箱，提供统一消息收发接口（含超时接收）
- 管理消息对象创建与内存释放（销毁时排空残留消息，防泄漏）
对话上下文管理器：
- 持久保存整条对话记录，删除已有对话
- 构建、追加不同角色消息，支持上下文裁剪
tool_base.c：工具底层基础管理逻辑（链表、查找、整体销毁）tool_func.c：工具注册与初始化入口（init_tools/agent_tools_cleanup）tool_add.c、tool_mul.c、tool_compare.c：具体工具功能实现
CLI.c：命令行 readline 交互通道AgentWebChannel.c：WebNet HTTP/SSE 交互通道AgentDebugChannel.c：MSH 命令调试通道AgentChannels.h：AGENT_CHANNEL_OPS单点宏选择；各通道实现AgentChannelOps（init/reset），由 AgentLoop 统一调用
可通过 RT-Thread 软件包菜单配置相关参数：
- API 密钥、服务地址、模型名称
- 响应缓冲区、流式传输缓冲区大小
- 单次会话最大工具调用轮次
- Channels 通道（
PKG_AGENT_CLI_CHANNEL/PKG_AGENT_WEBNET_CHANNEL/PKG_AGENT_DEBUG_CHANNEL）
- RT-Thread 实时操作系统
- cJSON：JSON 数据解析库
- webclient：HTTP 网络通信组件
- ulog：日志打印组件
- webnet（Channels 选择 webnet 时启用）
本项目基于 MIT 开源协议开放。