的/llm_evaluation目录中，代码目录结构如下： benchmark_eval ├── config │ ├── config.json # 服务的配置模板，已配置了ma-standard，tgi示例 │ ├── mmlu_subject_mapping.json

查看更多 →

info("load config.json, e is %s", e) exit(1) if config.get("repo_api_prefix") is None: log.logger.error("config.json not match

查看更多 →

发现目录下的异常文件（带有xmr或mine的标识）。 查看文件命令：ll -art 查询木马路径：pwd 查询文件中是否存在异常地址：strings +文件名（如config.json）+ |grep xmr 建议重点排查以下目录：/etc为配置文件、/tmp为临时文件、/bin为可执行文件。 用户命令；用到的库

查看更多 →

| jq -r '.data.".dockerconfigjson"' | base64 -d > /tmp/config.json 利用/tmp/config.json文件创建一个generic类型的Secret，该Secret可以直接挂载在后续创建的Jenkins Agent的Pod实例中。

查看更多 →

能变化，以下仅为举例）： obs://<bucket_name>/model/llama-2-13b-chat-hf/ ├── config.json ├── generation_config.json ├── gitattributes.txt ├── LICENSE.txt

查看更多 →

能变化，以下仅为举例）： obs://<bucket_name>/model/llama-2-13b-chat-hf/ ├── config.json ├── generation_config.json ├── gitattributes.txt ├── LICENSE.txt

查看更多 →

# 从目录中加载序列化对象（本地或者是url），配置文件为dir/config.json PretrainedConfig.save_pretrained(dir) # 将配置实例序列化到dir/config.json “PretrainedModel”：预训练模型的基类 包含一个

查看更多 →

能变化，以下仅为举例）： obs://<bucket_name>/model/llama-2-13b-chat-hf/ ├── config.json ├── generation_config.json ├── gitattributes.txt ├── LICENSE.txt

查看更多 →

能变化，以下仅为举例）： obs://<bucket_name>/model/llama-2-13b-chat-hf/ ├── config.json ├── generation_config.json ├── gitattributes.txt ├── LICENSE.txt

查看更多 →

├──benchmark_eval # 精度评测 ├── config ├── config.json # 请求的参数，根据实际启动的服务来调整 ├── mmlu_subject_mapping.json

查看更多 →

dest_path 是 String 批量任务输出结果的OBS路径。 req_uri 是 String 批量任务中调用的推理接口，需要从模型的config.json文件中选取一个api路径用于此次推理 mapping_type 是 String 输入数据的映射类型，可选“file”或“csv”。

查看更多 →

必选，pytorch模型保存文件，保存为“state_dict”，存有权重变量等信息。 │ │ ├──config.json 必选：模型配置文件，文件名称固定为config.json，只允许放置一个 │ │ ├──customize_service.py 必选：模型推理代码，

查看更多 →

-model-len的值必须小于config.json文件中的"seq_length"的值，否则推理预测会报错。config.json存在模型对应的路径下，例如：/home/ma-user/work/chatglm3-6b/config.json。 --max-num-batch

查看更多 →

safetensors和配置文件config.json，并放到weights_inference/65x512x512目录下 3，手动下载vae目录下的权重文件diffusion_pytorch_model.safetensors和配置文件config.json，并放到weights_inference/vae目录下。

查看更多 →

copyfile(os.path.join(the_path_of_current_file, 'infer/config.json'), os.path.join(model_path, 'config.json')) if __name__ == '__main__': main() 在

查看更多 →

copyfile(os.path.join(the_path_of_current_file, 'infer/config.json'), os.path.join(model_path, 'config.json')) if __name__ == '__main__': main() 在

查看更多 →

-model-len的值必须小于config.json文件中的"seq_length"的值，否则推理预测会报错。config.json存在模型对应的路径下，例如：/home/ma-user/work/chatglm3-6b/config.json。 --max-num-batch

查看更多 →

/log 表1 命令行参数说明 参数 说明 --config 设置用户提供的配置文件路径，使用之前需要创建此文件，默认为当前工作目录下的config.json文件。这个参数与 --auth和--images 的作用相同，分解成两个参数可以更好地区分认证信息与镜像仓库同步规则。建议使用 --auth

查看更多 →

# ma校验包 ├──cpu_npu # 检测资源消耗 ├── config │ ├── config.json # 服务的配置模板，已配置了ma-standard，tgi示例 │ ├── mmlu_subject_mapping.json

查看更多 →

骤。 执行login命令时“重启Docker服务”请使用默认选项“不重启”。 当您登录私有仓库时，Docker在.docker/config.json文件中包含私有仓库的有效凭证，该凭证默认使用Base64编码存储，建议您使用docker-credential-pass、gpg对Docker进行安全加固。

查看更多 →

model-len的值必须小于config.json文件中的"seq_length"的值，否则推理预测会报错。config.json存在模型对应的路径下，例如：${container_work_dir}/chatglm3-6b/config.json。不同模型推理支持的max-m

查看更多 →