使用AWQ量化 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：W4A16 per-group/per-channel，W8A16

查看更多 →

使用AWQ量化 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：W4A16 per-group/per-channel，W8A16

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见支持的模型列表和权重文件。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

云容器引擎-成长地图 | 华为云 图像搜索 图像搜索（ImageSearch）基于深度学习与图像识别技术，结合不同应用业务和行业场景，利用特征向量化与搜索能力，帮助客户从指定图库中搜索相同或相似的图片。 免费体验 图说E CS 立即使用 立即使用 成长地图 由浅入深，带您玩转ImageSearch

查看更多 →

学习任务 管理员以任务形式，把需要学习的知识内容派发给学员，学员在规定期限内完成任务，管理员可进行实时监控并获得学习相关数据。 入口展示 图1 入口展示 创建学习任务 操作路径：培训-学习-学习任务-【新建】 图2 新建学习任务 基础信息：任务名称、有效期是必填，其他信息选填 图3

查看更多 →

课程学习 前提条件 用户具有课程发布权限 操作步骤-电脑端 登录ISDP系统，选择“作业人员->学习管理->我的学习”并进入，查看当前可以学习的课程。 图1 我的学习入口 在“我的学习”的页面，点击每个具体的课程卡片，进入课程详情页面。可以按学习状态（未完成/已完成）、学习类型（

查看更多 →

发起数字资产交易 通过接口触发数字资产发行、流转，并记录到区块中。 操作步骤 通过接口触发数字资产发行或流转，具体操作请参考SDK概述。 父主题： 数字资产专享版

查看更多 →

交易软件APP测试 目的 本文以交易软件APP为例进行介绍，通过分析查看测试报告信息，准确定位应用问题。 操作步骤 登录CodeArts首页，在顶部功能菜单区单击“服务 > 移动应用测试 ”，进入“兼容性测试”页面。 创建测试任务，选择任务参数并上传目标APP应用后，单击“提交任务”。

查看更多 →

交易明细查询 服务商在每月7日后可查看上月的商品交易明细。 前提条件 已完成商业信息认证，具体操作请参见商业信息认证 操作步骤 进入卖家中心页面。 点击左侧导航的“结算管理>交易明细管理”，进入交易明细管理页面。 选择商品类型页签，输入查询条件，如订单号、账期、客户账号，筛选出需

查看更多 →

概述 图像搜索（ Image Search ）基于深度学习与图像识别技术，结合不同应用业务和行业场景，利用特征向量化与搜索能力，帮助您从指定图库中搜索相同或相似的图片。 图像搜索服务以开放API（Application Programming Interface，应用程序编程接口）的

查看更多 →

文本向量化 功能介绍 将用户输入的文本转化成数字向量，多用于从向量化知识库中查询相似的文本。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/embeddings 请求参数 表1 请求Header参数 参数 是否必选 参数类型

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见表1。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见表3。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见支持的模型列表和权重文件。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

使用AWQ量化 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：W4A16 per-group/per-channel，W8A16

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见支持的模型列表和权重文件。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

使用AWQ量化 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：per-group Step1 模型量化 可以在Huggingfac

查看更多 →

使用AWQ量化 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。多模态只支持hf上下载的awq权重，可跳过步骤一。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：W4A16

查看更多 →

学习空间 我的课堂 MOOC课程 我的考试

查看更多 →

跨链查询交易 功能介绍 发起由源端 区块链 到目标端区块链的跨链查询交易 URI POST /v1/cross/transaction/query 请求参数 表1 请求Body参数 参数 是否必选 参数类型 描述 to_chain 是 String 目标区块链ID 最小长度：1 最大长度：64

查看更多 →

发起数字资产交易 通过接口触发数字资产发行、流转，并记录到区块中。 操作步骤 通过接口触发数字资产发行或流转，具体操作请参考SDK概述。 父主题： 数字资产专享版

查看更多 →