共 691 篇文章

上下文成本治理:占我们账单 58.4% 的那个框,怎么在不降效果的前提下降掉 71.3%

Agent 化之后上下文取代模型调用成为最贵的一项:检索注入占 43.7%、会话历史占 32.3%,而用户真实输入只占 9.8%。本文拆解一个可复用的上下文成本治理方案:分桶观测、重排后按阈值注入、分层压缩、前缀缓存对齐,以及三条不能省的边界。

RAG 召回的隐藏规律:320 组查询实测,文档越多反而越难搜,四步把 top-1 命中从 61.9% 拉到 83.4%

拆解 320 组失败查询后发现:只有 18% 是检索不到,82% 是”检索到了但检索错了”——召回位被新文档挤占 28.4%、重复文档稀释 21.7%。靠时间衰减、新鲜度配额、先合并同类再 rerank 四步,把 top-1 命中率做到 83.4%,过期引用率从 23.1% 降到 3.4%。

邮件 Agent 实战:21,400 封真实邮件,效率最高的不是替你写,是帮你进入可决策状态

21,400 封真实邮件的内部实战:无草稿的纯分类版本意图识别只有 71.4%,改成”结构解析 + 槽位抽取 + 生成”三步后到 88.6%,草稿稍改即可发比例 41.7%,单封耗时从 6 分 12 秒降到 3 分 40 秒。附三条红线权限设计与最小可复用骨架。

AI 单元测试生成实测:420 个真实函数,覆盖率涨了但 17% 的测试是自证式假动作

420 个真实函数、三轮对照实测:AI 生成单元测试能把分支覆盖率从 68.4% 拉到 84.2%,但直接生成时变异杀掉率反而比人工低 5.2 个点,17.3% 的测试属于”自证式假动作”。附四类失败模式拆解、可落地的六步流水线与三种不该交给它的场景。