初步了解TensorRT 更多内容
  • 了解构建流程

    了解构建流程 AstroFlow可帮助开发者快速构建业务流程及自动化工作流,轻松实现人财物事的调、转、入、离、审、评和批等任务的数字化需求。 使用AstroFlow构建自动化工作流时,需要先创建一个应用。应用是AstroFlow业务系统运行时的访问入口,由表单和流程组成。用户在开

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    kv-cache-int8量化支持的模型请参见表3。 Step1使用tensorRT量化工具进行模型量化 使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0.9.0。 量化脚本convert_checkpoint

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0

    来自:帮助中心

    查看更多 →

  • 了解代码目录结构

    了解代码目录结构 当系统预置的组件无法满足用户需求时,用户可自定义组件并上传到AstroCanvas中使用。AstroCanvas为您预置了一些组件模板(Widget包),您可以基于组件模板开发自定义组件。 获取组件模板包 参考如何登录AstroCanvas中操作,登录AstroCanvas界面。

    来自:帮助中心

    查看更多 →

  • 了解配置连接器

    了解配置连接器 什么是连接器 连接器是AstroZero提供的调用第三方服务的集成工具。AstroZero封装了不同类型的连接器用于对接相应的第三方服务,如OBS、MINIO、Redis、 云搜索 、OCR、智能边缘平台和 SMS 等。通过连接器,开发者无需关注实现代码,只需要配置一下服

    来自:帮助中心

    查看更多 →

  • 了解应用列表

    了解应用列表 在应用列表中,可以查看当前用户已安装的应用,并配置导航条和布局。 操作步骤 参考登录管理中心中操作,登录AstroZero管理中心。 在左侧导航栏中,选择“应用管理 > 应用导航”,可查看到当前用户已安装的应用程序。 :预览该应用。 /:运行环境才会显示该图标,表示

    来自:帮助中心

    查看更多 →

  • 了解应用目录及菜单

    了解应用目录及菜单 一个业务系统通常包括前端页面、后台逻辑和数据库表。因此,AstroZero采用类似的结构管理应用程序。 如图1所示,应用管理页面包含三部分(红框1、红框2和红框3): 红框1中是当前应用的页面、模型和逻辑。在后续章节中,开发的页面、对象及后台逻辑,推荐按以下规

    来自:帮助中心

    查看更多 →

  • 了解代码目录结构

    了解代码目录结构 当系统预置的组件无法满足用户需求时,用户可自定义组件并上传到AstroCanvas中使用。AstroCanvas为您预置了一些组件模板(Widget包),您可以基于组件模板开发自定义组件。 获取组件模板包 参考登录AstroCanvas界面中操作,登录AstroCanvas界面。

    来自:帮助中心

    查看更多 →

  • 第三方推理框架迁移到推理自定义引擎

    --trt_root /usr/local/tensorrt && \ pip install ./build/tensorrt_llm-0.5.0-py3-none-any.whl && \ rm -f ./build/tensorrt_llm-0.5.0-py3-none-any

    来自:帮助中心

    查看更多 →

  • 快速了解车路协同

    人类社会将进入智能社会,万物感知、万物互联和万物智能已成为必然的趋势。从智能汽车发展看,高端汽车已经装备20多个摄像头和传感器,已经初步实现了智能化和网联化,预计2025年全球有超过7400万辆智能汽车联网。从交通的发展看,随着经济和社会快速发展,交通进入一个快速发展阶段,人、车、路的协调,已经成为了交通建设和管理部门需要解决的首要问题。

    来自:帮助中心

    查看更多 →

  • 了解流程设计节点

    了解流程设计节点 流程启动 在流程设计页面,默认会自动创建流程启动,单击流程启动,可设置流程启动参数。 图1 流程启动 节点设置:是否开启暂存,默认为关闭。 开启并使用暂存后,会将表单数据保存在当前节点(当前仅支持20个暂存历史),供后续直接调用,暂存不会使流程发生流转。 开启暂

    来自:帮助中心

    查看更多 →

  • 了解AstroPro中角色

    了解AstroPro中角色 AstroPro中的角色包括工作空间级角色和项目级角色两种,您可以通过为不同的用户赋予不同的角色,来控制用户对AstroPro的操作权限。一个用户在AstroPro中只能拥有一种角色。 工作空间管理员 账号登录AstroPro后会自动开通工作空间,每个

    来自:帮助中心

    查看更多 →

  • 了解我的当前账号

    了解我的当前账号 登录AstroZero后,可以在管理中心下查看当前账号、了解当前账号所属的权限配置,具有哪些权限以及可以创建的应用、脚本、对象、服务编排、业务用户等各种资源数量。 如何判断我是不是有开发者权限? 用户:如果您的账号可以登录开发环境、沙箱环境或运行环境三种环境中的

    来自:帮助中心

    查看更多 →

  • 深入了解用户任务

    深入了解用户任务 指派用户 工作队列与泳道 实现会签 实现投票 支持自动审批 父主题: BPM服务编排

    来自:帮助中心

    查看更多 →

  • 了解流程的创建过程

    了解流程的创建过程 AstroFlow提供了可视化的流程编排功能,可助力企业一站式创建业务全流程。使用AstroFlow构建流程的具体步骤,如图1所示。您也可以直接参考使用应用模板快速创建流程中操作,通过智能创建功能快速创建流程。 图1 创建流程示意图 选择触发条件。 触发节点是

    来自:帮助中心

    查看更多 →

  • 开发AI应用

    镜像支持的模型类型有TensorRT和PyTorch模型,具体的版本号在您创建开发环境选择镜像时镜像名称中可以看到。 如果您的模型不是TensorRT和PyTorch模型,需要重新训练成这两种引擎的模型或者将模型转换后再继续,推荐使用TensorRT模型。TensorRT 7.1的模型转换请参考官方指导和样例。

    来自:帮助中心

    查看更多 →

  • 了解首页仪表盘

    了解首页仪表盘 背景信息 通过仪表盘,您可以一张图看清所有用户上网体验质量,主动运维。 建议按“F11”进入浏览器全屏模式,以获得更佳的视觉体验。 操作步骤 在工作台首页单击左上角,选择“服务中心 > 云管理网络”进入服务首页。 在服务首页快捷菜单栏,选择“常用 > 用户体验保障”。

    来自:帮助中心

    查看更多 →

  • 了解自定义页面创建流程

    了解自定义页面创建流程 什么是自定义页面 自定义页面的核心在于“自定义”,即用户可以根据自己的特定需求来设计和优化页面,使其更加实用和个性化。 了解自定义页面创建流程 创建应用后,可以为应用添加多个页面,组建成一个完整的业务管理系统。在AstroFlow中,通过创建空白页面、页面

    来自:帮助中心

    查看更多 →

  • 了解华为云企业邮箱

    了解华为云 企业邮箱 华为云企业邮箱管理员登录管理后台后,进入首页,可查看创建时间和到期时间、开启华为云企业邮箱管理、查看 域名 配置信息,邮箱成员数据。 父主题: 首页

    来自:帮助中心

    查看更多 →

  • 了解首页仪表盘

    了解首页仪表盘 背景信息 通过首页仪表盘,您可以快速了解智能调优次数和可优化项,方便持续保障您的网络体验。 操作步骤 在工作台首页单击左上角,选择“服务中心 > 云管理网络”进入服务首页。 在服务首页快捷菜单栏,选择“常用 > 网络环境监控”。 查看仪表盘。 单击累计调优次数,可跳转至调优记录查看调优详情。

    来自:帮助中心

    查看更多 →

  • 了解首页仪表盘

    了解首页仪表盘 背景信息 首页仪表盘展示了园区无线用户网络体验质量短板,帮助您快速识别体验较差的网络,实现主动运维。 操作步骤 在工作台首页单击左上角,选择“服务中心 > 云管理网络”进入服务首页。 在服务首页快捷菜单栏,选择“常用 > 网络环境监控”。 查看仪表盘。 网络健康度评分

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了