本地推理生产运维实战：124 次压测，把冷启动、显存水位和降级链路这四件事立起来才敢上线
124次压测告诉你，Ollama默认配置上不了生产。瓶颈是默认配置的批处理、显存策略、冷启动与可观测性四点，没有一项靠换模型能解决。本文给出四层监控与降级链路、冷启动压到12秒的三个动作和三条运维红线。
日期: 2026年11月5日
企业 AI 选型实战：11 周从 23 个候选筛到 6 个上线，分数最高的两个候选是在极限测试冻死掉的
11周从23个候选筛到6个上线。本文不写哪个工具最好，只写一套可复用的选型方法：四轮筛法怎么设截止条件、六类场景为什么不能用同一把尺子量，以及让选型可逆、可退、可复盘的三条架构与合同做法。
Agent 上下文工程实测：820 万 token 的代价，超过临界点后上下文越长，任务成功率反而越低
820万token实测告诉你：1M窗口没有消灭检索问题，只是把成本放大了12倍。Agent的核心故障是中间遗忘与噪声累积，这两者在32K就已存在。本文给出上下文工程四件套、每条的真实收益，以及长上下文三个诚实的适用边界。
AI 推理降本实测：2140 万次请求、92 天模型分流改造，月成本降 77.9%，最大的节省反而不是换模型
对10条生产工作流做92天模型分流改造，覆盖2140万次真实请求，月推理成本降下77.9%。收益取决于流量形状而非开源强度；中间只存在一个70B甜点档；而最大的隐藏节省藏在vLLM显存与批处理调优里，顺序反了整个账都会算错。