-
GS_ASP
![]()
query id。 user_id oid unique query的key中的user_id。 cn_id integer 表示下发该unique sql的节点id。unique query的key中的cn_id。 unique_query text 规范化后的Unique SQL文本串。
来自：帮助中心 -
GS_ASP
![]()
query id。 user_id oid unique query的key中的user_id。 cn_id integer 表示该unique sql来自哪个CN节点。unique query的key中的cn_id。 unique_query text -规范化后的Unique
来自：帮助中心 -
GS_ASP
![]()
active：后台正在执行一个查询。 idle in transaction：后台在事务中，但事务中没有语句在执行。 idle in transaction (aborted)：后台在事务中，但事务中有语句执行失败。 fastpath function call：后台正在执行一个fast-path函数。
来自：帮助中心 -
GS_ASP
![]()
active：后台正在执行一个查询。 idle in transaction：后台在事务中，但事务中没有语句在执行。 idle in transaction (aborted)：后台在事务中，但事务中有语句执行失败。 fastpath function call：后台正在执行一个fast-path函数。
来自：帮助中心 -
GS_ASP
![]()
active: 后台正在执行一个查询。 idle in transaction: 后台在事务中。但事务中没有语句在执行。 idle in transaction (aborted): 后台在事务中，但事务中有语句执行失败。 fastpath function call: 后台正在执行一个fast-path函数。
来自：帮助中心 -
训练中的权重转换说明
![]()
明 训练完成的权重文件默认不会自动转换为Hugging Face格式权重。若用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。若用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
训练中的权重转换说明
![]()
训练完成的权重文件默认不会自动转换为Hugging Face格式权重。如果用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。如果用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
训练中的权重转换说明
![]()
明 训练完成的权重文件默认不会自动转换为Hugging Face格式权重。若用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。若用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
训练中的权重转换说明
![]()
明 训练完成的权重文件默认不会自动转换为Hugging Face格式权重。若用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。若用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
训练中的权重转换说明
![]()
训练完成的权重文件默认不会自动转换为Hugging Face格式权重。如果用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。如果用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
训练中的权重转换说明
![]()
明 训练完成的权重文件默认不会自动转换为Hugging Face格式权重。若用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。若用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
训练中的权重转换说明
![]()
训练完成的权重文件默认不会自动转换为Hugging Face格式权重。如果用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。如果用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
训练中的权重转换说明
![]()
明 训练完成的权重文件默认不会自动转换为Hugging Face格式权重。若用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。若用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
训练中的权重转换说明
![]()
训练完成的权重文件默认不会自动转换为Hugging Face格式权重。如果用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。如果用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
训练中的权重转换说明
![]()
训练完成的权重文件默认不会自动转换为Hugging Face格式权重。如果用户需要自动转换，则在运行脚本，例如0_pl_pretrain_13b.sh中，添加变量CONVERT_MG2HF并赋值TRUE。如果用户后续不需要自动转换，则在运行脚本中必须删除CONVERT_MG2HF变量。
来自：帮助中心 -
ASP.NET Core应用部署到CAE
![]()
ASP.NET Core应用部署到CAE CAE源码部署支持Docker运行时，您可以自行配置Dockerfile文件，在Dockerfile中安装构建环境，定义构建命令，以此支持更多编程语言的项目在CAE部署。 本文以ASP.NET Core应用为例。 前提条件 已创建环境和创建应用。
来自：帮助中心 -
系统性能快照
![]()
默认值：‘table’ asp_flush_rate 参数说明：当内存中样本个数达到asp_sample_num时，会按一定比例把内存中样本刷新到磁盘上，asp_flush_rate为刷新比例。该参数为10时表示按10：1进行刷新。 该参数属于SIGHUP类型参数，请参考表2中对应设置方法进行设置。
来自：帮助中心 -
使用kv-cache-int8量化
![]()
抽取脚本中dtype类型是"float8_e4m3fn"。dtype类型不影响int8的scale系数的抽取和加载。 Step3 启动kv-cache-int8量化服务 参考Step3 启动推理服务，启动推理服务时添加如下命令。 --kv-cache-dtype int8 #只支持int8，表示kvint8量化
来自：帮助中心 -
使用kv-cache-int8量化
![]()
抽取脚本中dtype类型是"float8_e4m3fn"。dtype类型不影响int8的scale系数的抽取和加载。 Step3 启动kv-cache-int8量化服务 参考Step3 启动推理服务，启动推理服务时添加如下命令。 --kv-cache-dtype int8 #只支持int8，表示kvint8量化
来自：帮助中心 -
使用kv-cache-int8量化
![]()
取脚本中dtype类型是"float8_e4m3fn"。dtype类型不影响int8的scale系数的抽取和加载。 Step3 启动kv-cache-int8量化服务 在使用OpenAI接口或vLLM接口启动推理服务时添加如下参数： --kv-cache-dtype int8 #只支持int8，表示kvint8量化
来自：帮助中心 -
使用kv-cache-int8量化
![]()
重和kvcache的scale系数。 抽取kv-cache量化系数。 该步骤的目的是将步骤1中生成的scale系数提取到单独文件中，供推理时使用。 使用的抽取脚本由vllm社区提供： python3 examples/fp8/extract_scales.py \ --quantized_model
来自：帮助中心
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
