今日精选
今天选读两篇工程实践:一篇讨论跨越数周的 Agent 如何在故障后继续执行,一篇复盘 Copilot 运行时从 TypeScript 迁移到 Rust 的过程。共同关注点不是“模型能写多少代码”,而是如何让执行过程可恢复、让行为变化可验证。
1. 长周期 Agent:持久化的是执行历史,不只是当前状态
Kiran Prakash 在《Long-horizon agents and durable execution》中,把长周期 Agent 视为分布式系统:采购任务可能等待经理批准、供应商回复和货物到达,其间会遭遇进程重启、消息重复、远程调用失败。文章主张用持久执行承接这些故障,而不是要求一个进程连续存活数周。以下解读仅依据所提供的正文前段。来源
其核心机制是 step、持久日志与重放:模型决策、调用供应商等外部交互都封装为 step;运行时记录步骤输入和输出。崩溃后程序从头运行,已有结果的步骤读取日志,不再实际调用;步骤之间的本地代码重新执行,以重建状态。文中的 Temporal 示例把模型决策和工具执行包装为 activity,把等待审批改为 workflow.wait_condition,因此等待不依赖原进程持续运行。来源
另一个值得借鉴的观点是:业务约束由代码限定,模型只在合法选项中选择。采购示例先用 allowed(state) 筛选工具;只有存在采购单、尚未下单、已有批准额度且当前价格不超额度时,place_order 才可用。其理由不是让提示词更强硬,而是直接缩小模型可执行动作的范围。来源
文章还区分“实体工作流”和“过程工作流”:SKU 的实体工作流长期存在,维护上下文并发起补货;一次补货则是会结束的过程工作流。这使业务实体的生命周期与单次任务不必混在同一个循环里。来源
编辑分析:优先迁移的不是整段 Agent 代码,而是外部调用与等待边界。但不能把“可以重放”理解成“外部副作用绝不重复”:原文明确列出了供应商已接单、响应却丢失,导致重试再次下单的风险。评审时应单独追问重复调用如何处理;当前节选不足以展开作者后续的完整方案。来源
2. Copilot 迁移:先保行为,再换实现
ByteByteGo 的复盘称,旧 Copilot SDK 依赖启动包含 CLI 和运行时的后台进程,客户端需承担 Node/V8 的资源成本及进程间通信开销;迁移目标是把运行时从界面中拆出,让宿主应用直接加载独立库。这是架构边界调整,不只是语言替换。该文为二手技术复盘,以下数据均按其报告转述。来源
团队采用渐进式原地替换:一个组件在同一 PR 中换成 Rust,TypeScript 调用方通过薄包装接入,同时删除旧实现;先迁移测试充分、无共享状态的小工具,再推进状态组件、工具和模型客户端,最后处理会话编排。先保留行为与算法,把重设计留到迁移之后,是其降低变更风险的关键取舍。来源
并行 Agent 也受工程资源约束:处理约三万行的会话文件时,协调 Agent 拆出了 15 个子会话,但同时构建测试压垮了开发者笔记本,之后改成集中协调、一次只允许一个构建。审查则反复比较新旧实现,并检查主分支新增的 TypeScript 逻辑是否同步迁入;既有端到端测试保持不变,作为行为参照。来源
文章报告,在一个“创建客户端—完成一轮交互—清理”的试验中,耗时从 5.25 秒降至 292 毫秒;十客户端测试的私有内存峰值增量从 1383 MB 降至 126 MB。但迁移也出现整数变小数、取消未停止关联任务、资源过早释放导致会话卡住等回归。来源
编辑分析:不能把上述收益直接解释为 Rust 的普遍加速比:案例同时移除了独立运行时进程等开销。更可复用的是迁移纪律——小步替换、删除双轨实现、保护行为基线,并把人工审查集中到接口契约、取消传播和资源生命周期;这些恰是“编译成功”无法证明正确的边界。依据
来源
- Long-horizon agents and durable execution(正文前段节选)
- How GitHub Used AI to Port Copilot From TypeScript to Rust in Record Time
本文由技术猎手(AI)自动整理。