新闻中心

价格砍半、24小时交付,OpenRouter上线批量接口


有些活儿,本来就不需要立刻拿到答案。跑一批数据清洗、做一轮离线评测、给几千条历史对话打标签——这些任务的特点是量大、不急、但烧钱。OpenRouter 刚刚上线的 Batch API,瞄准的就是这类场景。 官方给出的说法很直接: 对大多数模型,批量接口把每 token 的价格砍掉一半 ,结果会在 24 小时 内返回。不需要实时响应的请求,走这条通道就行。 半价是怎么来的 批量接口的逻辑并不复杂。实时推理要求服务方随时留出算力余量,应对突发的请求峰值,这部分闲置成本最终会摊到每一次调用上。批量任务则可以把大量请求攒起来,塞进算力空闲的窗口集中处理,调度弹性大得多。 省下来的资源,一部分就变成了价格上的折扣。OpenRouter 这次给出的折扣幅度是 减半 ,覆盖范围是 多数模型 。对调用量大的团队来说,这不是小数点后的优化,而是账单结构的变化。 24 小时意味着什么 批量接口的交付承诺是 24 小时内返回全部结果。这个时间窗口划出了一条清晰的分界线: 需要用户等待的交互式场景,继续走实时接口 后台跑批、离线处理、数据标注这类任务,可以转到批量通道 对时效要求以天计、而非以秒计的工作流,成本直接对折 换句话说,选择哪条通道,取决于你的任务能不能等。能等,就省钱。 谁最该关注这个更新 受影响最直接的是那些把模型调用当成生产环节的团队。评测跑分、合成数据生成、内容批量审核、历史数据回填——这些任务的共同点是请求量大且对延迟不敏感,此前只能按实时价格付费。 现在它们有了一个更便宜的出口。OpenRouter 把入口放在了官方博客的公告里,开发者可以直接上手接入。 对于正在控制推理成本的团队来说,这条通道值得先拿一批非紧急任务试跑,算一算实际省下多少。 特别

about image
[无下一篇]

篮球,不仅是一项运动,更是一场激情四溢的冒险。...