系统架构
及组件
面向 AI Agent 的工业基座 · 6 大自研子系统
直接裸跑 Agent,底层麻烦接踵而至:凭据散落、协议各异、环境难隔离、上下文易丢。
CrabCLI 把这些收口成一套统一基座,让 Agent 专注干活:CLI Bridge 三层自主驾驶任意 CLI · LLM Proxy 四协议互译、一处接入 · SSH Proxy 凭据不出端 · MyCtx SQL·向量·文件一库直查 · fs9 存算分离、会话可迁移 · 弹性执行层 四种算力随取随用。
一条自主产线,覆盖整条 Agent 工作链路
从 CLI 接管 到 模型代理,从 远端安全操作 到 统一数据底座,从 存算分离的分布式存储 到 弹性执行层——Agent 在真实世界里跑通业务所需的全部底层能力,一次给齐。不必再拼装几十个开源依赖、反复踩坑;Agent 看得更全、做得更稳、产出更准,团队回到业务本身。
CLI Bridge 架构 · 三层自主驾驶引擎
L0 原生事件层(亚毫秒最可靠)→ L1 模式识别层(毫秒级屏幕分析)→ L2 视觉推理层(全屏多模态分析,秒级兜底)。三层梯度决策,覆盖所有 CLI 运行状态。
三层自主驾驶
L0 原生事件(亚毫秒)→ L1 模式识别(毫秒)→ L2 视觉推理(秒级兜底)。业界唯一三层梯度架构
零依赖结构化输出
不要求 CLI 提供任何结构化接口,任意 TUI CLI 即插即用
持久会话隔离
每 CLI 独立会话 · 原生 TUI 渲染,精确帧捕获按层级分发到 L0 / L1 / L2
三态状态机
忙碌(等待 & 重采样)→ 确认(安全应答)→ 空闲(派发下一指令)。毫秒级状态切换
安全键控注入
模拟真实键盘输入(确认 / 拒绝 / 提示词派发),自适应模式自动编排
Per-CLI 可插拔适配
新 CLI 只需实现轻量插件契约(忙碌识别 / 安全确认 / 模式管理 / 视觉上下文),一键接入
梯度延迟策略
L0 原生事件 亚毫秒 → L1 模式识别 毫秒级 → L2 视觉推理 秒级兜底(仅极少边界场景)
LLM Proxy 架构 · HTTP/HTTPS Gateway
客户端请求从协议自动检测开始 → 鉴权限流 → 正则模型路由命中 Proxy 规则 → 四策略负载均衡选节点 → Hub-and-Spoke 星型协议翻译(OpenAI 为 hub)→ 连接池转发;跨协议工具调用 / 推理字段无损转换,首字节返回后不重试保证流式安全。
四向协议互译
OpenAI · Anthropic · Google · Responses API 任意互转;有状态 SSE 翻译器 + 链式 pipeline(Anthropic→OpenAI→ResponsesAPI),跨协议工具调用 / 推理字段无损
多模型正则路由
双层智能路由:正则分流 + 节点级别名映射,一行规则覆盖整个模型家族。零感知替换:客户端始终看到自己请求的模型名。
四策略负载均衡
随机 / 轮询 / 权重 / 一致性哈希 四种策略;权重策略按静态权重抽签,一致性哈希走会话级缓存环,同 session 粘到同节点省 KV Cache
SSE 流式透传
同协议零解析快速通道,JSON 不反序列化直接透传;跨协议走有状态 chunk 翻译器,event 序列完整;流式空闲超时 + 通道异常终止信号兜底
故障自动重试
限流 / 错误响应自动换节点重试;首字节返回后不重试避免协议违规;响应头回写重试次数与最终节点信息
健康探活 + 限流反压
读上游限流响应头实时收紧节点配额,配额耗尽自动熔断摘除;重试等待时间精确解析;失败轨迹落盘便于复盘
后端连接池 · Keep-Alive
按 host + 端口 + TLS 组合分组 LIFO 复用 TCP/TLS 长连接,省掉每请求 1-2 RTT 握手(跨境约 450-900ms);空闲 90s 自动回收,对齐主流上游 keep-alive 超时
密钥池 + PKCE OAuth
用户级 Token 鉴权 + 按用户限流 + 模型白名单 + 请求体大小限制;Claude Code / Codex CLI 走 PKCE OAuth 浏览器直通登录
SSH Proxy 架构 · Agent → Proxy → 上游主机
两条鉴权路径(临时 + 命名)合并到同一转发层;虚拟身份沙盒让 LLM 看到干净的虚拟主机视图,路径双向重写抹掉真主机痕迹;全链路审计日志可追溯。
SSH 协议中间人
SSH 独立服务监听 :22000;AI Agent 以标准 ssh 命令接入,透明转发到上游真实主机,LLM 完全无感中间层存在
虚拟身份 · 双向重写
虚拟身份注入:返回虚假的主机名 / 用户 / 路径;双向重写引擎对输出流做入站脱敏、对命令做出站映射 —— 真主机标识永不出现在 LLM 上下文
双轨鉴权
临时令牌:任务级 token(内存存储 · TTL 自动过期 · 单次或多次复用);命名账户:哈希密码持久化 · 多主机路由 · 长期 CI / 部署凭据
跳板机 + Tunnel 穿透
支持多级跳板(透明 channel 转发)+ Tunnel 接入(远端隧道命令);跨 VPC / 跨安全组的复杂网络拓扑下一站直达,无需手工 SSH 配置
架构总览 · MyCtx + fs9 + FUSE 挂载链
三层:客户端 → MyCtx 内嵌引擎 → POSIX 挂载栈。对外只暴露 3 个协议口(MySQL 8306 / WebDAV 6383 / SSH Proxy 22000),WebDAV 走 Basic Auth + Connect Key(扁平独立 token,SHA-256 反查,scope ro/rw),SSH Proxy 走虚拟身份沙盒(临时 mint + 命名账户双轨鉴权);1 条挂载路径(rclone 三平台原生支持),RocksDB 是唯一存储底座。
全文检索(BM25)
MATCH AGAINST 语法,BM25 评分;9 种分词器可选(jieba 中文 / english_stem / ngram / ...),中英代码混合场景最佳
向量检索
VECTOR 列 + HNSW 索引,MySQL 9.0 向量函数;RAG 召回毫秒级,与全文索引/SQL 过滤联合检索
向量化执行引擎
列式 Chunk 批处理 · 谓词下推 · 覆盖索引 · 零拷贝扫描;复杂 JOIN / 聚合无需落盘
虚拟文件系统 fs9
把文件当 SQL 数据存:agent 产物(日志、截图、文档)落 DB,事务一致 · 变更流可订阅 · FUSE 可挂宿主,摆脱本地 FS 状态散乱
POSIX FUSE 挂载
fs9 通过 rclone 挂成真实目录,macOS / Linux / Windows 全平台;ls / cat / vim 像本地盘读写;docker -v 直通容器,agent 用 POSIX 文件 API 即可
图算法 · 9 大算子
graph_neighbors / graph_path / graph_pagerank / graph_shortest_path / graph_scc / graph_topological_sort ... 9 大图算子用 SQL 表函数暴露,BFS / 最短路 / 强连通 / 拓扑序 / PR 直接 SELECT 出,可与普通表 JOIN 做关系+图混合查询
双模式部署
永久模式复用容器 / 临时模式完全隔离
远程节点
闲置算力一键接入:一条安装命令即成执行节点,反向连接跨 NAT 无需公网 IP;macOS / Linux / Windows 全平台
E2B 云沙箱
对接 E2B 协议托管沙箱:任务高峰按需弹性扩容,用完即销毁;本地零运维,隔离等级云厂商兜底
存算分离 · 弹性扩容
会话 / 工作区 / 产物统一落 fs9 存储层,计算节点无状态可替换;会话跨节点漫游,算力横向加减不中断业务