Features
数据保留
LLM API 日志记录 - 存储 GPT-4、Claude、Gemini 请求和响应。调试 AI 应用、分析使用模式、确保合规的完整数据保留。
数据保留
UniterRouter 提供可配置的数据保留策略,允许你存储完整的请求和响应负载。这支持强大的调试功能、详细的分析和符合数据治理要求。
保留级别
UniterRouter 支持两个可按组织配置的保留级别:
| 级别 | 描述 | 存储成本 |
|---|---|---|
| 仅元数据 | 存储请求元数据(时间戳、模型、token、成本),不包含完整负载。默认选项。 | 免费 |
| 保留所有数据 | 存储完整的请求和响应负载,包括消息、工具调用和附件。 | $0.01/百万 token |
仅元数据保留默认启用,无需额外存储成本即可提供使用分析。
存储定价
启用完整数据保留时,存储按 每百万 token $0.01 计费。此费率适用于:
- 输入 token(提示)
- 缓存输入 token
- 输出 token(完成)
- 推理 token
存储成本按请求计算,并显示在响应的 cost_usd_data_storage 字段中。参见成本明细了解如何程序化跟踪成本。
成本计算示例
对于一个请求:
- 1,000 输入 token
- 500 输出 token
- 1,500 总 token
存储成本 = 1,500 / 1,000,000 × $0.01 = $0.000015
配置保留
数据保留在控制台设置中按组织级别配置:
- 导航到 组织设置 → 策略
- 选择你偏好的 数据保留级别
- 保存更改
更改保留设置仅适用于新请求。现有存储的数据遵循创建时的保留期限。
保留期限
数据根据你的计划保留不同的期限:
| 计划 | 保留期限 |
|---|---|
| 免费 | 3 天 |
| Pro | 30 天 |
| 企业版 | 自定义 |
保留期限到期后,数据会自动删除。
访问存储的数据
启用数据保留后,你可以通过控制台访问存储的请求:
- 查看带完整负载检查的请求历史
- 按模型和日期范围筛选
- 检查完整的请求和响应负载
使用场景
调试
完整数据保留使你能够:
- 检查发送给模型的确切提示
- 查看包括工具调用在内的完整响应
- 追踪对话历史
- 识别生产中的问题
分析
使用存储的负载,你可以:
- 分析提示模式和有效性
- 跟踪响应质量随时间的变化
- 构建自定义控制台和报告
- 衡量不同用例的模型性能
合规
数据保留通过以下方式帮助满足合规要求:
- 维护 AI 交互的审计跟踪
- 启用数据治理策略
- 支持事件调查
- 提供监管要求的记录
计费考虑
额度使用
在 API 密钥模式(使用你自己的提供商密钥)中:
- 仅存储成本从 UniterRouter 额度中扣除
- 推理成本直接向你的提供商计费
在 额度模式 中:
- 推理和存储成本都从额度中扣除
监控存储成本
存储成本显示在:
- API 响应中的
cost_usd_data_storage字段 - 使用控制台的"存储"类别下
- 账单发票中作为单独的行项目
在计费设置中启用自动充值,确保存储成本累积时服务不中断。
隐私和安全
- 所有存储的数据都进行静态加密
- 访问仅限于具有适当权限的组织成员
- 数据在保留期限后自动删除
- 你可以通过支持请求立即删除特定记录
How is this guide?