使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

LiteOS目前支持Windows及Linux平台的配置&编译。 对于Windows平台，提供了Huawei LiteOS Studio图形化IDE，用户可直接在 Studio上完成配置&编译。 对于Linux平台，通过menuconfig进行组件化配置及裁剪后，执行make命令完成编译。

查看更多 →

目录下.config文件中。 清理工程。 在编译前，先在Huawei_LiteOS根目录下执行make clean命令删除以前编译出的二进制文件。 编译工程。 在Huawei_LiteOS根目录下执行make命令即可完成工程编译，编译结果会在屏幕上输出。 以Cloud_STM32

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

后端应用编译和部署 部署后端应用 上传代码 Git代码提交：checkout空的华为代码仓库到本地，然后将代码复制到本地目录，先然后Add 然后commit 最后push 修改编译命令 mvn clean install -U -pl ieo-4a/ieo-4a-biz  -am  -DskipTests=true

查看更多 →

前端应用编译和部署 上传代码 Git代码提交：checkout空的华为代码仓库到本地，然后将代码复制到本地目录，先然后Add 然后commit 最后push 修改编译命令 export PATH=$PATH:/root/.npm-global/bin #设置缓存目录 npm config

查看更多 →

配置构建任务

查看更多 →

毕昇编译器 毕昇编译器（bisheng compiler）是华为提供的一款提供高性能、高可信及易扩展的编译器工具链。毕昇编译器引入了多种编译技术，支持C/C++/Fortran编译语言。 约束限制 仅HCE 2.0 x86架构支持使用毕昇编译器。 HCE原生的clang编译语言和

查看更多 →

最新动态（html） 本文介绍了Huawei Cloud EulerOS产品新特性和对应的文档动态，新特性将在各个区域（Region）陆续发布，欢迎体验。

查看更多 →

执行构建任务

查看更多 →

新建构建任务

查看更多 →

什么是编译构建 编译构建是指将软件的源代码编译成目标文件，并和配置文件、资源文件等一起打包的过程。 编译构建服务（CodeArts Build）为开发者提供配置简单的混合语言构建平台，实现编译构建云端化，支撑企业实现持续交付，缩短交付周期，提升交付效率。支持编译构建任务一键创建、

查看更多 →

查看构建任务

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

安装Sermant Injector 容器部署的Spring Cloud应用可通过Sermant Injector插件自动挂载Sermant Agent，通过Sermant Agent接入未开启安全认证的ServiceComb引擎或者注册配置中心。关于Sermant Agent，

查看更多 →