文档首页/ 盘古大模型 PanguLargeModels/ API参考/ API/ Token计算器
更新时间：2025-01-05 GMT+08:00
查看PDF
分享

Token计算器

功能介绍

为了帮助用户更好地管理和优化Token消耗，平台提供了Token计算器工具。Token计算器可以帮助用户在模型推理前评估文本的Token数量，提供费用预估，并优化数据预处理策略。

URI

POST /v1/{project_id}/deployments/{deployment_id}/caltokens

表1 路径参数

参数

是否必选

参数类型

描述

project_id

是

String

项目ID，获取方法请参见获取项目ID。

deployment_id

是

String

模型的部署ID，获取方法请参见获取模型部署ID。

请求参数

表2 请求Header参数

参数

是否必选

参数类型

描述

X-Auth-Token

是

String

用户Token。

用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。

Content-Type

是

String

发送的实体的MIME类型，参数值为“application/json”。
表3 请求Body参数

参数

是否必选

参数类型

描述

data

是

List<String>

待统计Token数的字符串。List长度必须为奇数。

with_prompt

否

Boolean

是否仅统计输入字符的Token数

true：仅统计输入字符串的Token数；

false：统计输入字符串和推理过程产生字符的总Token数。

响应参数

表4 响应Body参数

参数

参数类型

描述

tokens

List<String>

分解出的Token列表。

token_number

Integer

Token总数统计结果。

请求示例

{
    "data": [
        "你好，请介绍下西安。"
    ],
    "with_prompt": true
}

响应示例

{
    "tokens": [
        "你好",
        "，",
        "请",
        "介绍下",
        "西安",
        "。"
    ],
    "token_number": 6
}

状态码

请参见状态码。

错误码

请参见错误码。

父主题： API

相关文档