Features
元数据
LLM API 元数据头 - 为 AI 请求添加自定义上下文、用户 ID 和跟踪数据。组织 GPT-4、Claude API 调用,用于分析和计费。
元数据
UniterRouter 支持使用自定义头随请求发送额外的元数据。这允许你包含用户会话、应用版本、租户 ID 或其他对分析和监控有用的上下文数据。
之后,你可以按特定值筛选返回结果,例如针对特定用户或会话。此外,未来你将能够基于此元数据对分析和监控进行细分。例如,你可以显示按用户、应用、国家、功能或任何其他你想跟踪的维度的成本和延迟明细。
自定义头
你可以使用 X-UniterRouter- 前缀的自定义头随 LLM 请求发送元数据:
curl -X POST https://api.uniterouter.ai/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $UNITEROUTER_API_KEY" \
-H "X-UniterRouter-Country: CN" \
-H "X-UniterRouter-User-ID: 9403f741-a524-4b18-b1b2-dbb71cdff2a4" \
-d '{
"model": "gpt-4o",
"messages": [
{
"role": "user",
"content": "你好,最近怎么样?"
}
]
}'最佳实践
头命名
- 所有自定义元数据使用
X-UniterRouter-前缀 - 使用描述性、一致的命名约定
- 避免特殊字符;使用连字符分隔单词
数据隐私
- 注意头中的敏感数据
- 考虑对用户标识符进行哈希或匿名化
- 遵循组织的数据隐私政策
性能
- 保持头值合理简短
- 避免发送不会用于分析的不必要元数据
- 考虑对请求大小的影响,特别是对于高流量应用
示例:多租户应用
对于多租户应用,你可以这样使用元数据头:
curl -X POST https://api.uniterouter.ai/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $UNITEROUTER_API_KEY" \
-H "X-UniterRouter-Tenant-ID: acme-corp" \
-H "X-UniterRouter-User-ID: user-12345" \
-H "X-UniterRouter-App-Version: 2.1.4" \
-H "X-UniterRouter-Feature: chat-assistant" \
-d '{
"model": "gpt-4o",
"messages": [
{
"role": "user",
"content": "总结这份文档..."
}
]
}'这允许你按租户、用户、应用版本和功能跟踪使用情况和成本,提供关于 LLM 集成在平台上如何使用的详细洞察。
How is this guide?