详细介绍
RunInfra是YC孵化团队RightNow做的模型推理API,专门托管开源大模型,比如Kimi K3、DeepSeek V4.1 Flash、GLM-5.3这些。一个API Key同时兼容OpenAI和Anthropic两套SDK,原本写好的代码改个地址就能接。
它主打的是“缓存便宜”。智能体每一轮对话都会把大段上下文重新发一遍,RunInfra会把同一会话固定路由到同一个热副本上,官方说缓存命中率能到98%,缓存输入最低0.01美元/百万token,优化一直做到GPU内核层。
另外还推出了编程套餐,可以给Claude Code、opencode等20多种编程智能体当后端,Starter 10美元/月起,额度每5小时和每周重置。适合自己跑智能体、对token账单敏感的开发者。
相关推荐
极简简历
极简简历 :一款非常优质的在线简历制作平台。提供的简历模板风格以极简为主,制作起来非常方便,而且完全免费。 极致、简约、专业、优质 非常Nice的简历模板。 简约的风格,求职信息一目了然,告别花哨的外
超级书签
无需安装任何插件,只需要将”书签图标”拖拽到你的浏览器书签栏,你的书签栏就会变成一个功能强大的神器! 包括:解除网页限制、网页 自由编辑 、商品历史价格查询、VIP视频解析等
新Faylee
交给编程智能体修Bug的录屏报告工具
新FastH3-Omni
8步出带配乐视频的蒸馏模型
新AI Photo Edit
一句话修改照片的AI编辑器
新Modelpeers
AI模型与智能体动态追踪