当前位置: 首页 > 资讯 > 科技 > 月之暗面Kimi开放平台:上下文缓存Cache成本锐减50%,助力开发者高效存储
  • 0
  • 0
  • 分享

月之暗面Kimi开放平台:上下文缓存Cache成本锐减50%,助力开发者高效存储

月之暗面 2024-08-10 10:34:09 爱吃爆米花

近日消息,月之暗面旗下的Kimi开放平台宣布了一项重大利好消息,其上下文缓存Cache存储服务费用迎来大幅下调,降幅达50%。

调整后,Cache存储费用从原先的10元每兆字节(tokens)每分钟,降低至5元每兆字节(tokens)每分钟。这一举措无疑将极大降低开发者在使用Kimi开放平台时的成本,促进技术创新与应用拓展,为用户带来更加高效经济的缓存解决方案。

在7月1日,Kimi 开放平台宣布,上下文缓存(Context Caching)开始公测。

上下文缓存(Context Caching)是一种高效的数据管理技术,它允许系统预先存储那些可能会被频繁请求的大量数据或信息。

这样,当您再次请求相同信息时,系统可以直接从缓存中快速提供,而无需重新计算或从原始数据源中检索,从而节省时间和资源。

上下文缓存(Context Caching)特别适合用于频繁请求,重复引用大量初始上下文的场景,可以显著降低长文本模型费用并提高效率!

来源:站长之家
免责声明:本内容来自互联网,不代表本网站的观点和立场,如有侵犯你的权益请来信告知;如果你觉得好,欢迎分享给你的朋友,本文网址 https://wangzhidaquan.com/zixun/74004.html
文章标签
评论

文明上网,理性发言,共同做网络文明传播者

验证码
提交
热榜
热门游戏
换一换
热门软件
换一换