据 AT&T 称,该公司通过模型路由技术,在 2026 年 2 月至 7 月期间将 AI 编码成本降低了 56%,而性能仅下降了 2%。这家电信巨头实施了基于 LiteLLM 的路由,将员工的常规查询,尤其是与编码相关的任务,导向成本更低的开源模型,同时将 OpenAI 和 Anthropic 的高端模型保留用于复杂工作。目前,开源模型在 AT&T 内部“Ask AT&T”平台上处理约 40% 的员工 AI 查询,该平台每天处理约 450 亿个 token。公司计划在近期将开源模型的使用率提高至 60-70%。AT&T 副总裁 Mark Austin 表示,开源模型正在缩小与专有模型之间的性能差距,能力差距仅为 6-10 个月。