AutoTokenizer, GPTQConfig model_id = "meta-llama/CodeLlama-34b-hf" tokenizer = AutoTokenizer.from_pretrained(model_id) gptq_config = GPTQConfig(bits=8

查看更多 →

AutoTokenizer, GPTQConfig model_id = "meta-llama/CodeLlama-34b-hf" tokenizer = AutoTokenizer.from_pretrained(model_id) gptq_config = GPTQConfig(bits=8

查看更多 →

训练作业选择的引擎规格ID，默认为“1”。填入model_id后app_url/boot_file_url和engine_id无需填写。请从查询作业引擎规格接口获取引擎规格ID。 model_id 是 Long 训练作业的内置模型ID。请通过查询预置算法接口获取model_id。填入model_id后app_ur

查看更多 →

project_type String 项目类型区分ipd/scrum/xboard domain_id String 项目所属域id model_id String IPD项目模型Id，取值为10001|10002|10003，分别表示系统设备类、自营软件类、云服务类 请求示例 /

查看更多 →

/v2/{project_id}/design/{model_id}/table-model/relation/fields 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID，获取方法请参见项目ID和账号ID。 model_id 是 String 所属关系

查看更多 →

AutoTokenizer, GPTQConfig model_id = "meta-llama/CodeLlama-34b-hf" tokenizer = AutoTokenizer.from_pretrained(model_id) gptq_config = GPTQConfig(bits=8

查看更多 →

AutoTokenizer, GPTQConfig model_id = "meta-llama/CodeLlama-34b-hf" tokenizer = AutoTokenizer.from_pretrained(model_id) gptq_config = GPTQConfig(bits=8

查看更多 →

AutoTokenizer, GPTQConfig model_id = "meta-llama/CodeLlama-34b-hf" tokenizer = AutoTokenizer.from_pretrained(model_id) gptq_config = GPTQConfig(bits=8

查看更多 →

AutoTokenizer, GPTQConfig model_id = "meta-llama/CodeLlama-34b-hf" tokenizer = AutoTokenizer.from_pretrained(model_id) gptq_config = GPTQConfig(bits=8

查看更多 →

AutoTokenizer, GPTQConfig model_id = "meta-llama/CodeLlama-34b-hf" tokenizer = AutoTokenizer.from_pretrained(model_id) gptq_config = GPTQConfig(bits=8

查看更多 →

AutoTokenizer, GPTQConfig model_id = "meta-llama/CodeLlama-34b-hf" tokenizer = AutoTokenizer.from_pretrained(model_id) gptq_config = GPTQConfig(bits=8

查看更多 →

aces/{model_id}/export 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID，获取方法请参见项目ID和账号ID。 model_id 是 String 所属关系建模的模型ID，ID字符串。model_id可从接口获取模型中获取。

查看更多 →

修改examples/quantizing_moe/deepseek_moe_w8a8_int8.py中的代码： 1）如果本地已有权重，请将MODEL_ID修改为权重路径； MODEL_ID = "deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct" 2）如果量化Dee

查看更多 →

kspaces/{model_id} 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID，获取方法请参见项目ID和账号ID。 model_id 是 String 所属关系建模的模型ID，ID字符串。model_id可从接口获取模型中获取。

查看更多 →

/v1/{project_id}/models/{model_id} 表1 路径参数 参数 是否必选 参数类型 描述 model_id 是 String 模型ID，在创建AI应用时即可在返回体中获取，也可通过查询AI应用列表接口获取当前用户拥有的AI应用，其中model_id字段即为模型ID。 project_id

查看更多 →

setLevel(logging.DEBUG) model_id = "./moondream2" revision = "2024-03-13" model = AutoModelForCausalLM.from_pretrained( model_id, trust_remote_code=True

查看更多 →

Array 本地服务运行配置。 表2 predictor configs结构 参数 是否必选 参数类型 描述 model_id 是 String 模型ID。“model_id”可以通过查询模型列表或者ModelArts管理控制台获取。 weight 是 Integer 权重百分比，

查看更多 →

String 属性值，只支持整数，changed_property属性值为"instance_count"时，该值必须大于或小于当前实例数。 model_id 是 String 模型ID。 响应参数 状态码：200 表5 响应Header参数 参数 参数类型 描述 X-Request-Id

查看更多 →

import Model session = Session() model_instance = Model(session, model_id="your_model_id") model_instance.delete_model() 方式2：根据查询模型对象列表返回的模型对象进行模型删除

查看更多 →

模型的数量。 models Array<Object> 模型的参数列表，结构说明如表4所示。 表4 models结构数据 参数 参数类型 说明 model_id Integer 模型ID。 model_name String 模型名称。 model_usage Integer 模型用途。 1代表图像分类

查看更多 →

models/{model_id} 表1 路径参数 参数 是否必选 参数类型 描述 workspace_id 是 String 参数解释：工作空间ID。获取方法，请参见获取工作空间ID。 约束限制：不涉及。 取值范围：不涉及。 默认取值：不涉及。 model_id 是 String

查看更多 →