DeepSeek-Reasonix:围绕前缀缓存设计的终端 AI 编码代理 | esengine/DeepSeek-Reasonix
为什么需要Reasonix 用过AI编码代理的人都知道,长对话的token成本会迅速堆高。缓存能省钱,但大多数工具把缓存当可选项——对话历史一长,前缀偏移,缓存就断了,后面的token全价计算。 DeepSeek的API有一个字节级前缀缓存机制:如果请求的前n个字节和之前某次请求的前n个字节完全一致...
为什么需要Reasonix 用过AI编码代理的人都知道,长对话的token成本会迅速堆高。缓存能省钱,但大多数工具把缓存当可选项——对话历史一长,前缀偏移,缓存就断了,后面的token全价计算。 DeepSeek的API有一个字节级前缀缓存机制:如果请求的前n个字节和之前某次请求的前n个字节完全一致...