📚 文章归档
69 篇文章 · 按年份分组 · 按 ⌘K 搜索
2026 · 66 篇
5 Silent Failures in My AI Briefing System (and the 237 Tests That Came After)
I built an AI-powered daily briefing system. It 'worked perfectly' for weeks — until I discovered 5 classes of failures that pass every error check. HTTP 200, no exceptions, no warnings. But the output was wrong. Here's what happened and how I fixed each one.
Agent 超时假确认：别把半截 stdout 写成「已验证」
会话压缩后，被 kill 的命令（exit 143）的部分输出常被摘要成「已确认」。本文拆解假确认语义陷阱，给出观测/事实分层、强制复验与 harness 防护代码。
Least Autonomy 工程：Agent 什么时候该闭嘴不行动
2026 年 AgentAbstain / Agentic Abstention 表明：前沿 Agent 的 Paired Accuracy 仍卡在 60%。本文给出可落地的弃权（abstention）策略层——何时拒做、何时追问、何时早停，以及如何评测。
Agent 多租户工程：隔离、配额与公平调度的生产实战
单个 Agent Demo 很简单；一旦服务几十个租户，Token 账单、工具副作用和记忆泄漏会一起爆炸。本文拆解租户隔离、配额熔断与公平调度的工程落地。
ChatGPT Work 启示录：跨应用长时运行 Agent 的工程架构怎么搭
OpenAI 把 ChatGPT Work 推给所有用户：连 Slack、Gmail、Drive，能连续跑几小时的跨应用 Agent。这不是产品新闻，而是长时 Agent 从 Demo 走向生产的架构信号——本文拆解状态、权限、工具编排三层设计。
Agent 上下文压缩生产实战：长任务不掉线、账单不翻倍的五级策略
长任务 Agent 的上下文会在 20 轮后撑爆窗口、拖垮缓存、烧光预算。本文拆解五级压缩策略、触发器设计与 Cache 友好实现，附 Python/TypeScript 可运行代码与落地 checklist。
LLM-as-a-Verifier：把「验证能力」做成 Agent 的第四条扩展轴
预训练、后训练、测试时算力之后，验证（verification）正在成为第四条扩展轴。本文拆解 LLM-as-a-Verifier 框架：如何用 verifier agent 替代硬编码规则，在工具调用、代码生成、研究流水线里落地细粒度反馈。
办公文档 Agent 工具：Word / Excel / PPT 的 Tool 设计实战
Agent 能写代码却改不了同事的 .docx？OfficeCLI 等工具把办公文档操作拉进 tool 层。本文拆解文档类 Tool 的 Schema 设计、格式陷阱与生产落地 checklist。
MCP STDIO 供应链安全：零点击 RCE 如何穿透你的 Agent IDE
OX Security 披露 MCP STDIO 传输存在系统性命令注入：恶意 README 或工具描述即可零点击 RCE。本文拆解攻击链、对比 stdio vs 远程传输的安全边界，并给出白名单加固方案与落地 checklist。
RAG 混合检索生产实战：BM25 + 向量 + Reranker + Query Rewrite 全链路
纯向量检索在专有名词和精确匹配上经常翻车。生产级 RAG 需要 BM25 稀疏检索、稠密向量、Cross-Encoder Reranker 和 Query Rewrite 四层协作——本文给出架构选型、Python 实现和落地 checklist。
Agent CI/CD：Prompt 与 Agent 代码的持续集成实践
Prompt 改一行，线上 Agent 全翻车？这篇文章拆解如何为 AI Agent 建立端到端的 CI/CD Pipeline，覆盖 Prompt 回归测试、Agent 行为断言、灰度发布与自动回滚。
Agent Token 预算管理实战：从无限制调用到精确控制
Agent 跑飞了一次可能烧掉整月预算。本文给出一套运行时 Token 预算管理方案——预算分配、实时追踪、动态降级、熔断机制，附完整 Python 实现。
AI Agent 与传统工程的边界：什么时候不该用 Agent
不是所有问题都需要 Agent。本文用 6 个真实场景 + 决策框架，帮你判断何时该用确定性代码、何时才值得引入 Agent，避免把简单问题复杂化。
MCP Server 生产实战：鉴权、限流、远程部署与 Registry 落地指南
把 MCP Server 从 demo 搬到生产环境，要过鉴权、限流、远程传输、服务发现四道关。本文给出每道关的工程方案、代码示例和踩坑记录。
Agent 版本管理与灰度发布：Prompt、工具、模型的 CI/CD 实战
Agent 上线后最怕的不是写不出新功能，而是改了 prompt 全量生效后出 bug 却无法回滚。本文拆解 Agent 系统中 Prompt 版本、Tool Schema 版本、模型版本三条线的灰度发布架构，附可落地的 CI/CD pipeline。
工具太多塞不下：Agent 动态工具检索实战
MCP 生态爆发后，一个 Agent 接入几百个工具是常态。但把 300 个工具 Schema 全塞进 context，既烧钱又让模型选错。动态工具检索是 2026 年绕不开的工程问题——这篇讲清楚怎么做。
Human-in-the-Loop Agent 工程：让 AI 自主但不失控
Agent 越自主越危险。本文拆解生产级 HITL 编排的 5 种模式——从简单确认到多人审批链，附 LangGraph 和 CrewAI 的完整实现。
Agent 错误恢复与自愈：生产级 AI Agent 的容错工程
Agent 在生产环境中必然会失败——LLM 幻觉、工具超时、上下文溢出。本文给出一套分层错误恢复架构，含可运行代码和决策矩阵，让你的 Agent 从'崩了就挂'进化到'自动修复继续跑'。
LLM 语义缓存实战：让重复提问不再重复付费
同一个问题被换着说法问 100 次，精确缓存一次都命中不了，Prompt Cache 也救不了。语义缓存用向量相似度让'意思相同的问题'直接命中，把 LLM 调用成本砍掉 40% 以上。但阈值定高了漏命中、定低了答错人——这篇讲清楚完整链路、三个翻车陷阱，以及一个能直接跑的最小实现。
自托管 LLM 推理工程化：从模型选型到量化部署的全链路实战
API 账单失控、数据不能出域、延迟要可控——这三件事任意一件成立，你就该考虑自托管推理。本文把模型选型、量化方案、推理引擎、并发调优串成一条可落地的工程链路。
Agent 延迟工程：把首字时间压到 200ms 的生产打法
2026 年 Agent 战场不再卷功能，开始卷延迟。本文拆 TTFT、ITL、E2E 三层指标，把 KV Cache、推测解码、Prefill-Decode 分离、流式工具调用串成一套生产级延迟优化打法，附决策矩阵和可复用代码骨架。
kiro-conduit M1.1 收官：4 step 把并行编排器从能跑做到能用
M1.0 跑通了多任务并行 + 共享文件锁 + 串行 merge，但暴露了一个真问题：两个 task 都追加同一文件的末尾，git 自动 merge 失败。M1.1 用 4 个 step 把这件事和其他几件功能完整度的事一起解决：stub-first 接口锁定从设计上消除冲突、Verifier 加上 AI 语义评审第 3 层、3 种锁 policy 全部实现、rich.live TUI dashboard。本文讲这 4 个设计决策里值得记的工程细节，特别是 Protocol-based pluggable backend 让一个能力优雅地有 4 种使用模式的设计。
kiro-conduit M1.0：从 1 个 worker 到真正的并行编排，跑通了 DAG + 共享文件锁 + 串行 merge
上一篇做完 M0 PoC 跑通了单 task。这一周把 M1.0 的 5 件事一起落了：DAG 调度、git worktree 池、多 worker 并行、共享文件单一写者锁、串行 merge。端到端 demo 里 3 个 task 真的并行起来了，锁正确仲裁，最后 2 个分支成功 merge——第 3 个分支按设计停在了真实的文本冲突上。本文讲实现里几个值得记的工程细节。
kiro-conduit 起源故事：开 5 个分支两天没合上代码，于是我做了个并行编排器
市面上至少有 9 个并行 AI coding 编排器，但没一个支持 Kiro CLI。我从开 5 个 git worktree 手动并行做 11 个 PR、merge 时一身冲突的痛点出发，用一个周末做出了 kiro-conduit——基于 CIV 三角色 + ACP 协议的 Kiro 原生编排器。本文讲设计决策、踩到的暗礁、跑通的实测数据，以及为什么不该重复造大多数轮子但偶尔值得造一个。
Agent 别再用 Cron 跑：Durable Execution 四家引擎选型与实战
Long-horizon Agent 上线第一周，进程重启那一刻你就知道为什么要 Durable Execution 了：执行到一半的工作流没了、扣过的钱再扣一次、人工审批永远等不来。本文对比 Temporal、Inngest、DBOS、Restate 四家耐久执行引擎在 Agent 场景的差异，给出一套迁移策略和落地 checklist，附 Python 端到端代码。
Reasoning Token 工程：让模型该想的时候想，不该想的时候闭嘴
o3、Claude Extended Thinking、DeepSeek R1 全面普及后，reasoning token 成了账单上最不透明的一块。让简单查询去深思 30 秒、让复杂推理被 budget 强行截断，是 2026 年最常见的两种翻车姿势。这篇讲清楚 thinking budget 怎么定、何时该跳过、怎么和 streaming 结合，以及一个能省 60% reasoning 成本的路由策略。
LLM-as-Judge 不是免费午餐：偏差识别与校准的工程实战
用 LLM 当裁判很香，直到你发现它偏爱长答案、记得选第一个、还会给自家模型打高分。本文拆解 Position Bias、Length Bias、Self-preference 三大主流偏差，给出可直接落地的校准方案与代码。
多模态 Agent 工程化：图像不是 prompt 的免费午餐
把图片塞进 prompt 这件事，2026 年还在让团队踩坑。一张截图 1500 token、坐标精度漂移、多图上下文爆炸、OCR 还是 Vision 选错就翻倍烧钱。本文拆开三家主流多模态 API 的真实成本与精度，给一份能直接套用的视觉 Agent 落地清单。
PromptOps：把 Prompt 当成代码管理的全套工程实践
Prompt 改一行，线上准确率掉 5%，三天后才有人发现——这是 2026 年 Agent 团队最常见的事故。把 Prompt 拉进 Git、加版本号、跑回归、做灰度、能回滚，PromptOps 这套方法论才真正闭环。
Subagent 编排模式：从单体 Agent 到分布式认知
Claude Code、Cursor、Devin 都靠 subagent 把上下文撑爆的难题拆开了。但什么时候该拆、怎么传状态、并行还是串行、错了怎么回滚——这些工程细节决定 Agent 是丝滑还是翻车。
从 POC 到生产：AI Agent 上线 Checklist
Demo 跑通到线上稳定运行，差的不是模型而是工程链路。一份在生产环境踩过坑后整理的 Agent 上线 checklist：从可观测、容错、成本到灰度发布的 9 个关键决策点。
Agent 流量回放与影子测试：从 POC 到生产的回归保障
改一行 prompt 上线后炸了 40% 的工具调用——这不是段子，是 Agent 系统每周都在发生的事。本文给一套从 trace 捕获、回放引擎到影子流量的三层保障方案，让你像测后端 API 一样把 Agent 的回归卡死在 PR 阶段。
Agent 数据工程：训练数据的收集、合成与质量评估
2026 年自托管 Agent 起势，瓶颈从「调哪个 API」变成「训练数据从哪来」。本文拆 Agent 数据工程的三段流水线——线上轨迹回收、合成数据构造、质量分级评估，给一套能跑的代码骨架与决策矩阵。
Agent 输出验证层：在工具调用与副作用之间，建一道工程级护栏
结构化输出只解决了「模型说什么」，没解决「该不该执行」。本文给出一套生产级 Output Guard 设计：参数校验、语义校验、副作用沙箱、补偿回滚，附 Python 实现与决策矩阵。
Tool Use 高级模式：从单工具调用到生产级编排
Function Calling 入门只用半小时，生产化要踩半年坑。并行调用、Schema 设计、错误重试、Token 预算——这是真正决定 Agent 能不能上线的工程细节。
Agent 交互工程：流式、中断、确认、纠错的 UX 实战
Agent 产品的差异不在模型，在交互层。流式 token 与 tool 的混合编排、用户随时打断、高风险操作的人工确认、跑偏时的低成本纠错——这套组合拳决定了用户敢不敢把活交给 Agent。
把 LLM 账单砍掉 80%：Prompt Cache 三家机制深度对比与工程化实战
Prompt Cache 是 2026 年最容易被低估的省钱杠杆。同样一段长 system prompt，Anthropic 按 TTL 计费、DeepSeek 走磁盘冷热分层、OpenAI 自动命中——三家定价和命中规则完全不同。本文拆解三家机制差异，给出 Cache-First 的工程设计模式，附真实账单对比：同样 1000 万次调用，从 1.2 万美元降到 2400。
Agent 设计反模式：8 个真实翻车案例与修复思路
为什么 90% 的 Agent demo 上不了生产？不是模型不够强，是架构上踩了那些每次都翻车的反模式。8 个真实案例，从把 Agent 当万能锤到 prompt 越塞越长，配修复思路和落地 checklist。
Agent Benchmark 实战：SWE-bench、WebArena 与 OSWorld 评测避坑指南
跑 Benchmark 容易，跑出可信结论难。本文拆解三大 Agent 评测基准的复现陷阱、评分机制与工程实践，帮你建立自己的评测流水线。
结构化输出工程：JSON Mode、Structured Outputs、Outlines、BAML 全面对比
LLM 输出不可控是 Agent 工程化的头号杀手。本文从生产视角对比四种主流结构化输出方案的可靠性、延迟与开发体验，附带选型决策矩阵和落地 checklist。
Agent 成本工程：从月烧 $50k 到省 80% 的五把武器
同样的 Agent 产品，有的团队月账单 $50k，有的团队做到 $10k。差距不在流量，在成本工程。Prompt Cache、模型降级、Token 预算、上下文压缩、Batch API 五把武器全部打开，省 80% 不是梦。
长程 Agent 工程化：跑几小时到几天的任务，怎么不翻车
Demo 里的 Agent 跑 5 分钟挺好看，一旦任务周期拉到几小时甚至几天——服务重启、模型限流、预算失控、工具返回结构变了——整个链路就会连锁崩。本文从状态模型、恢复语义、预算闸门到审批分段，拆解 long-horizon Agent 的生产级工程范式。
Skill-based Agent 架构：从 Tool Use 到可组合能力的范式迁移
2025 年末 Anthropic 推出 Claude Skills，把 Agent 能力从零散的 tool 调用推向了 SKILL.md + 渐进式加载的可组合模式。本文拆解 Skill 与 Tool、MCP、Subagent 的边界，给出一套能在生产落地的 Skill 架构骨架。
Harness Engineering 实战：让 AI Agent 学会自主循环的五大工程实践
Prompt Engineering 教你写好一句话，Context Engineering 教你喂对一次上下文，Harness Engineering 解决的是另一个问题——让 Agent 在真实项目里持续、自主、可观测地运转起来。本文拆解 OpenAI 提出的五大实践、自主循环模式和 CI/CD 集成落地方案。
多 Agent 架构模式：Supervisor、Swarm、Hierarchical 到底怎么选
单个 Agent 搞不定的复杂任务，需要多 Agent 协作。本文系统梳理 Supervisor、Swarm、Hierarchical 三大主流架构的适用场景、实现方式和取舍，并用 LangGraph 给出可运行示例。
Computer Use 与浏览器 Agent：让 AI 真正操控你的电脑
文本聊天只是 AI Agent 的第一形态。当 Anthropic Computer Use、OpenAI Operator、Browser Use 让 Agent 能看屏幕、点按钮、填表单时，真正的「数字员工」才刚刚起步。本文拆解三种技术范式的架构差异、工程挑战与安全边界。
MCP 协议深度解析：AI Agent 连接万物的通信标准
MCP 是 AI Agent 连接工具和数据的 USB 接口。从协议架构到 Server 开发，从安全模型到生产部署，一文搞懂 Model Context Protocol 的设计哲学和工程实践。
AI 网关与模型路由：生产级 Agent 的流量调度中枢
当你的 Agent 同时调用 GPT-4o、Claude、Gemini 和开源模型时，谁来统一管理 API Key、负载均衡、故障切换和成本控制？AI 网关就是答案。深度对比 LiteLLM、Portkey、Vercel AI Gateway 三大方案。
Agent 可观测性与评估：让你的 AI Agent 不再是黑盒
Agent 上线后最怕的不是它出错，而是你不知道它为什么出错。从 Tracing 链路追踪到 LLM-as-Judge 评估，从测试金字塔到 Eval-Driven Development，一文搞懂如何让 Agent 系统透明、可测、可信赖。
Context Engineering：比 Prompt Engineering 更重要的事
Prompt Engineering 只是冰山一角。真正决定 AI Agent 表现的，是你塞进上下文窗口的每一个 token。从 Anthropic 的四大策略到 Coding Agent 的实战模式，一文搞懂 Context Engineering。
Agent 支付实战：x402 协议如何让 AI Agent 自主花钱
AI Agent 能调 API、能写代码，但不能花钱——这是 Agent 落地的最后一公里。x402 协议用 HTTP 402 + 稳定币签名，让 Agent 像调接口一样完成微支付，本文从协议原理到生产部署完整拆解。
Agentic 设计模式实战：从 Prompt Chaining 到多 Agent 协作的架构指南
构建 AI Agent 不是调一次 API 就完事。Anthropic 总结了 5 种 Workflow 模式和自主 Agent 模式，本文用代码拆解每种模式的适用场景、实现方式和选型决策框架。
Voice Agent 实战：从 300ms 延迟到生产级语音 AI 的完整路径
语音是人类最自然的交互方式，2026 年语音 Agent 技术全面成熟。本文深度对比 OpenAI Realtime、ElevenLabs、LiveKit 等主流方案，从架构原理到选型决策，帮你构建生产级语音 AI 应用。
Coding Agent 架构解密：512,000 行源码告诉我们的 10 个真相
Claude Code 源码泄露暴露了 512,000 行生产级 Coding Agent 的完整架构。五级权限系统、Prompt Cache 经济学、文件系统多 Agent 编排……这些设计模式对每个 Agent 开发者都有直接参考价值。
A2A 协议实战：让 AI Agent 之间「对话」起来
MCP 解决了 Agent 连接工具的问题，但 Agent 之间怎么协作？A2A 协议给出了标准答案。这篇文章从协议设计到实战集成，拆解 Agent Card、任务生命周期和安全机制，帮你搞懂多 Agent 协作的通信基础设施。
AI Agent 记忆系统：从「金鱼记忆」到「过目不忘」的工程实践
没有记忆的 Agent 就是一条金鱼——每次对话都从零开始。这篇文章从记忆架构设计出发，拆解短期/长期/图记忆的工程实现，对比 Mem0、Letta、Zep、LangMem 四大框架，帮你为 Agent 装上真正的大脑。
向量数据库选型实战：pgvector vs Chroma vs Pinecone，选错了代价很大
向量数据库是 RAG 和 AI Agent 的核心基础设施，但六大主流方案各有取舍。这篇文章从实际场景出发，拆解 pgvector、Chroma、Pinecone、Qdrant、Milvus、Weaviate 的真实差异，帮你避开选型踩坑。
AI Agent 是什么：从概念到落地的完整指南
AI Agent 不是更聪明的 Chatbot，而是能自主规划、使用工具、持续执行的智能系统。这篇文章从核心概念出发，拆解 Agent 的四大能力、六种设计模式和三条架构路径，帮你建立完整的认知框架。
CrewAI 多 Agent 协作实战：让 AI 团队替你干活
CrewAI 用角色扮演的方式组织多 Agent 协作，10 分钟就能搭建一个 AI 团队。从核心概念到执行模式、记忆系统、MCP 集成，一篇文章带你从入门到生产。
GraphRAG 实战：当知识图谱遇上 RAG，多跳推理不再是难题
传统 RAG 擅长语义匹配，却在多跳推理和全局摘要上力不从心。GraphRAG 通过引入知识图谱，让检索沿着实体关系链路进行，解锁了 RAG 的下一个能力层级。
LangGraph 实战：用图结构构建生产级 AI Agent 工作流
LangGraph 把 Agent 工作流建模为有向图，让你对每一步执行拥有精细控制。从核心概念到状态持久化、人机协作、子图拆分，一篇文章带你从 Demo 走向生产。
Agent 安全实战：Prompt 注入、记忆投毒与纵深防御
当 AI Agent 拥有了操作真实世界的能力，安全问题就不再只是输出一段有害文本那么简单。从真实 CVE 案例到记忆投毒攻击，系统梳理 Agent 安全的威胁全景与防御体系。
Function Calling 实战：让 LLM 操作真实世界
Function Calling 是 AI Agent 从'能说'到'能做'的关键技术。从 OpenAI 到 Claude 的实现差异，到并行调用、流式处理的生产级实践。
Vibe Coding 时代：用自然语言构建应用的完整指南
Andrej Karpathy 提出的 Vibe Coding 正在让'人人都是开发者'成为现实。从 Replit 到 Bolt.new，一文搞懂 Vibe Coding 工具生态、适用场景与局限性。
AI Agent 框架选型：LangGraph vs CrewAI vs OpenAI SDK 实战对比
面对十几个 AI Agent 框架，到底该选哪个？基于实际项目经验，从架构设计、开发体验、生产就绪度三个维度做横向对比。
RAG 从入门到进阶：让 LLM 拥有你的私有知识库
RAG 是让 LLM 突破训练数据限制的关键技术。从基础架构到高级优化策略，一篇文章带你掌握 RAG 的核心要点。
2025 · 3 篇
Agent Streaming 工程：从 Token 粒度到多 Agent 级联的生产实践
流式输出不只是「逐字打印」。本文深入 SSE vs WebSocket 选型、工具调用中间状态传播、多 Agent 级联流式背压管理，给出可落地的生产架构。
Eval-Driven Development：用评估驱动 AI Agent 开发
当传统单元测试无法覆盖 LLM 的非确定性输出时，Eval-Driven Development 提供了一套以评估用例为核心驱动力的开发方法论——让每次 prompt 修改都有量化反馈，让 Agent 质量回归可追溯。
Agent Sandbox 选型指南：E2B、Modal 与 Firecracker 安全隔离实战
让 AI Agent 执行代码却不炸掉你的服务器——三种主流沙盒方案的架构对比、性能实测与生产落地 checklist。
没有匹配此标签的文章。
喜欢这些内容？
在 GitHub 上 Star 仓库，或订阅 RSS 获取最新更新。