跳到主要内容

会话上下文管理

每个模型都有上下文限制。GeniSpace 会监控交互式会话的工作上下文,并在达到限制导致模型无法回答前,对较早内容进行总结。

上下文不等于聊天历史

  • 聊天历史是界面中可以滚动查看的完整对话。
  • 工作上下文是下一轮发送给模型的消息、摘要、指令和证据集合。
  • 记忆保存可在以后会话中召回的长期事实或偏好。

压缩只调整工作上下文,不会删除可见消息、附件或长期记忆。

上下文指示器

获得使用率信息后,Chat 输入区会显示上下文已使用比例和剩余空间。这是根据当前模型以及下一轮选入内容计算的估算值。

大附件、较长工具结果和大量粘贴文本会快速增加上下文使用量。

自动压缩

请求即将超过安全上下文预算前,GeniSpace 可以总结较早的对话片段。运行时会保留近期消息和重要证据,并用结构化摘要替换较早的细节。

自动压缩采用尽力而为策略。影响重要决策的数字、姓名、审批和约束,在压缩后应再次核对。

手动 /compact 命令

希望在较长的下一步工作前主动释放空间时:

  1. 在 Chat 输入框中输入 /compact
  2. 选择命令提示或按 Enter。
  3. 等待压缩结果和更新后的上下文比例。

该命令由 Chat 本地处理,不会作为普通用户问题发送给智能体。

压缩时保留的内容

压缩会尽可能保留:

  • 当前目标和有效约束
  • 与当前会话有关的已确认决策和用户偏好
  • 近期消息
  • 未完成工作依赖的工具证据
  • 等待用户输入的状态
  • 继续任务所需的引用关系

即使原始历史不再全部发送给模型,它仍作为界面展示和审计记录保留。

何时应该新建会话

以下情况更适合新建会话,而不是反复压缩:

  • 主题已经完全改变。
  • 不希望旧指令继续影响工作。
  • 需要干净的权限、模型或智能体上下文。
  • 当前会话包含与新任务无关的敏感信息。

故障排除

现象处理方式
没有 /compact 提示确认当前是交互型智能体会话并刷新 Chat
压缩失败重试一次;摘要模型持续不可用时,新建会话并带入必要事实
智能体忘记重要细节明确重述该事实,并要求智能体确认后再继续
使用率没有更新等待当前流式输出结束,然后重新打开会话

会话操作参阅 Chat 应用