华为云11.11 AI&大数据分会场

高精度,多场景,快响应,AI&大数据助力企业降本增效

 
 

    深度学习模型量化 更多内容
  • 学习目标

    学习目标 掌握座席侧的前端页面开发设计。 父主题: 开发指南

    来自:帮助中心

    查看更多 →

  • 功能介绍

    遥感解译专用模型,支持用户进行预训练和解译应用。 图18 部分深度学习模型参数 一键式模型部署和API发布,提供深度学习模型的快速部署功能,支持GPU资源分配、弹性扩容、模型迭代发布、应用监控和统计分析,轻松实现AI能力服务化。 图19 模型部署发布平台 平台基于模型训练结果,面

    来自:帮助中心

    查看更多 →

  • 训练脚本说明

    训练脚本说明 yaml配置文件参数配置说明 各个模型深度学习训练加速框架的选择 模型NPU卡数取值表 各个模型训练前文件替换 父主题: 主流开源大模型基于DevServer适配LlamaFactory PyTorch NPU训练指导(6.3.907)

    来自:帮助中心

    查看更多 →

  • AI开发基本流程介绍

    还缺少某一部分数据源,反复调整优化。 训练模型 俗称“建模”,指通过分析手段、方法和技巧对准备好的数据进行探索分析,从中发现因果关系、内部联系和业务规律,为商业目的提供决策参考。训练模型的结果通常是一个或多个机器学习深度学习模型模型可以应用到新的数据中,得到预测、评价等结果。

    来自:帮助中心

    查看更多 →

  • 图像搜索

    云容器引擎-成长地图 | 华为云 图像搜索 图像搜索(ImageSearch)基于深度学习与图像识别技术,结合不同应用业务和行业场景,利用特征向量化与搜索能力,帮助客户从指定图库中搜索相同或相似的图片。 免费体验 图说E CS 立即使用 立即使用 成长地图 由浅入深,带您玩转ImageSearch

    来自:帮助中心

    查看更多 →

  • 概述

    概述 图像搜索( Image Search )基于深度学习与图像识别技术,结合不同应用业务和行业场景,利用特征向量化与搜索能力,帮助您从指定图库中搜索相同或相似的图片。 图像搜索服务以开放API(Application Programming Interface,应用程序编程接口)的

    来自:帮助中心

    查看更多 →

  • 使用AWQ量化

    使用AWQ量化 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化量化方法:per-group Step1 模型量化 可以在Huggingfac

    来自:帮助中心

    查看更多 →

  • 使用AWQ量化

    使用AWQ量化 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化模型列表请参见支持的模型列表和权重文件。 本章节介绍如何使用AWQ量化工具实现推理量化量化方法:W4A16 per-group/per-channel,W8A16

    来自:帮助中心

    查看更多 →

  • 使用GPTQ量化

    使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式,使用W8A16的量化不仅可以保证精度在可接受的范围内,同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见支持的模型列表和权重文件。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

    来自:帮助中心

    查看更多 →

  • 使用GPTQ量化

    使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式,使用W8A16的量化不仅可以保证精度在可接受的范围内,同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见表3。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

    来自:帮助中心

    查看更多 →

  • StreamingML

    StreamingML 异常检测 时间序列预测 实时聚类 深度学习模型预测 父主题: Flink SQL语法参考(不再演进,推荐使用Flink OpenSource SQL)

    来自:帮助中心

    查看更多 →

  • 学习空间

    学习空间 我的课堂 MOOC课程 我的考试

    来自:帮助中心

    查看更多 →

  • 使用SmoothQuant量化

    使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化模型列表请参见支持的模型列表和权重文件。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

    来自:帮助中心

    查看更多 →

  • 使用SmoothQuant量化

    使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。 Smoot

    来自:帮助中心

    查看更多 →

  • 学习任务

    学习任务 管理员以任务形式,把需要学习的知识内容派发给学员,学员在规定期限内完成任务,管理员可进行实时监控并获得学习相关数据。 入口展示 图1 入口展示 创建学习任务 操作路径:培训-学习-学习任务-【新建】 图2 新建学习任务 基础信息:任务名称、有效期是必填,其他信息选填 图3

    来自:帮助中心

    查看更多 →

  • 课程学习

    课程学习 前提条件 用户具有课程发布权限 操作步骤-电脑端 登录ISDP系统,选择“作业人员->学习管理->我的学习”并进入,查看当前可以学习的课程。 图1 我的学习入口 在“我的学习”的页面,点击每个具体的课程卡片,进入课程详情页面。可以按学习状态(未完成/已完成)、学习类型(

    来自:帮助中心

    查看更多 →

  • ModelArts最佳实践案例列表

    h框架和昇腾NPU计算资源。 训练后的模型可用于推理部署,搭建大模型问答助手。 主流开源大模型基于DevServer适配PyTorch NPU推理指导(6.3.907) 推理部署、推理性能测试、推理精度测试、推理模型量化 介绍主流的开源大模型Llama系列、Qwen系列、Yi系列

    来自:帮助中心

    查看更多 →

  • 盘古自然语言大模型的适用场景有哪些

    盘古自然语言大模型的适用场景有哪些 自然语言处理 模型是一种参数量极大的预训练模型,是众多自然语言处理下游任务的基础模型。学术界和工业界的实践证明,随着模型参数规模的增加,自然语言处理下游任务的效果显著提升,这得益于海量数据、大量算力以及深度学习的飞跃发展。 基于自然语言处理大模型的预训

    来自:帮助中心

    查看更多 →

  • AI Gallery功能介绍

    面向开发者提供了AI Gallery大模型开源社区,通过大模型为用户提供服务,普及大模型行业。AI Gallery提供了大量基于昇腾云底座适配的三方开源大模型,同步提供了可以快速体验模型的能力、极致的开发体验,助力开发者快速了解并学习模型。 构建零门槛线上模型体验,零基础开发者开箱即用,初学者三行代码使用所有模型

    来自:帮助中心

    查看更多 →

  • 排序策略

    单击选择训练结果在OBS中的保存根路径,训练完成后,会将模型和日志文件保存在该路径下。该路径不能包含中文。 深度网络因子分解机-DeepFM 深度网络因子分解机,结合了因子分解机和深度神经网络对于特征表达的学习,同时学习高阶和低阶特征组合,从而达到准确地特征组合学习,进行精准推荐。单击查看深度网络因子分解机详细信息。

    来自:帮助中心

    查看更多 →

  • StreamingML

    StreamingML 异常检测 时间序列预测 实时聚类 深度学习模型预测 父主题: Flink SQL语法参考(不再演进,推荐使用Flink OpenSource SQL)

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了