灵犀更新之后多了一个上下文已用百分比是什么哪?

今天更新了一下灵犀客户端,怎么在模型选择旁边多出了一个上下文使用的百分比?除了扣灵点还要控制上下文的量了?

重庆
浏览 135
收藏
点赞
分享
+1
3
+1
全部评论 3
 
E精精
E精精 WPS资深用户Lv.3 优质创作者KVPWPS函数专家

Lv.3 优质创作者

每个模型都有上下文的量级,超过会压缩或者命令压缩,一般来说建议上下文达到80%,其实一般从50%就开始退化~ 官方点的说法:模型上下文百分比是一个动态的“能力衰减指示器”。核心原则是:在模型质量开始明显下滑(约50%)之前就采取行动,通过任务拆分、主动压缩或开启新会话,让 Agent 始终工作在它的“最佳状态区”内。
   江苏省
举报
0
2
天浩
天浩Lv.1 新人创作者

Lv.1 新人创作者

了解
· 辽宁省
举报
0
0