月之暗面发布“上下文缓存”技术 称最高可降本 90%

【月之暗面发布“上下文缓存”技术 称最高可降本 90%】以“价格战”为代表的大模型降本仍在继续，但相比直接降价，北京月之暗面科技有限公司（简称“月之暗面”）提出了增效方案。7月2日，该公司对外宣布，其大模型Kimi正式开放平台正式公测新技术——上下文缓存技术（Context Caching）。月之暗面方称，这项技术将降低开发者使用长文本旗舰大模型的成本，最高可降本达90%。