UniterRouter
Features

元数据

LLM API 元数据头 - 为 AI 请求添加自定义上下文、用户 ID 和跟踪数据。组织 GPT-4、Claude API 调用,用于分析和计费。

元数据

UniterRouter 支持使用自定义头随请求发送额外的元数据。这允许你包含用户会话、应用版本、租户 ID 或其他对分析和监控有用的上下文数据。

之后,你可以按特定值筛选返回结果,例如针对特定用户或会话。此外,未来你将能够基于此元数据对分析和监控进行细分。例如,你可以显示按用户、应用、国家、功能或任何其他你想跟踪的维度的成本和延迟明细。

自定义头

你可以使用 X-UniterRouter- 前缀的自定义头随 LLM 请求发送元数据:

curl -X POST https://api.uniterouter.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $UNITEROUTER_API_KEY" \
  -H "X-UniterRouter-Country: CN" \
  -H "X-UniterRouter-User-ID: 9403f741-a524-4b18-b1b2-dbb71cdff2a4" \
  -d '{
    "model": "gpt-4o",
    "messages": [
      {
        "role": "user",
        "content": "你好,最近怎么样?"
      }
    ]
  }'

最佳实践

头命名

  • 所有自定义元数据使用 X-UniterRouter- 前缀
  • 使用描述性、一致的命名约定
  • 避免特殊字符;使用连字符分隔单词

数据隐私

  • 注意头中的敏感数据
  • 考虑对用户标识符进行哈希或匿名化
  • 遵循组织的数据隐私政策

性能

  • 保持头值合理简短
  • 避免发送不会用于分析的不必要元数据
  • 考虑对请求大小的影响,特别是对于高流量应用

示例:多租户应用

对于多租户应用,你可以这样使用元数据头:

curl -X POST https://api.uniterouter.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $UNITEROUTER_API_KEY" \
  -H "X-UniterRouter-Tenant-ID: acme-corp" \
  -H "X-UniterRouter-User-ID: user-12345" \
  -H "X-UniterRouter-App-Version: 2.1.4" \
  -H "X-UniterRouter-Feature: chat-assistant" \
  -d '{
    "model": "gpt-4o",
    "messages": [
      {
        "role": "user",
        "content": "总结这份文档..."
      }
    ]
  }'

这允许你按租户、用户、应用版本和功能跟踪使用情况和成本,提供关于 LLM 集成在平台上如何使用的详细洞察。

How is this guide?