初步了解TensorRT 更多内容
  • 了解构建流程

    了解构建流程 AstroFlow可帮助开发者快速构建业务流程及自动化工作流,轻松实现人财物事的调、转、入、离、审、评和批等任务的数字化需求。 使用AstroFlow构建自动化工作流时,需要先创建一个应用。应用是AstroFlow业务系统运行时的访问入口,由表单和流程组成。用户在开

    来自:帮助中心

    查看更多 →

  • 了解DDoS防护AAD

    了解DDoS防护AAD 如何选择DDoS防护产品 DDoS原生基础防护 DDoS原生高级防护 DDoS高防

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0

    来自:帮助中心

    查看更多 →

  • 了解配置连接器

    了解配置连接器 什么是连接器 连接器是AstroZero提供的调用第三方服务的集成工具。AstroZero封装了不同类型的连接器用于对接相应的第三方服务,如OBS、MINIO、Redis、 云搜索 、OCR、智能边缘平台和 SMS 等。通过连接器,开发者无需关注实现代码,只需要配置一下服

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    kv-cache-int8量化支持的模型请参见表3。 Step1使用tensorRT量化工具进行模型量化,必须在GPU环境 使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0.9.0。 量化

    来自:帮助中心

    查看更多 →

  • 了解应用列表

    了解应用列表 在应用列表中,可以查看当前用户已安装的应用,并配置导航条和布局。 操作步骤 参考登录管理中心中操作,登录AstroZero管理中心。 在左侧导航栏中,选择“应用管理 > 应用导航”,可查看到当前用户已安装的应用程序。 :预览该应用。 /:运行环境才会显示该图标,表示

    来自:帮助中心

    查看更多 →

  • 了解代码目录结构

    了解代码目录结构 当系统预置的组件无法满足用户需求时,用户可自定义组件并上传到AstroCanvas中使用。AstroCanvas为您预置了一些组件模板(Widget包),您可以基于组件模板开发自定义组件。 获取组件模板包 参考登录AstroCanvas界面中操作,登录AstroCanvas界面。

    来自:帮助中心

    查看更多 →

  • 了解应用目录及菜单

    了解应用目录及菜单 一个业务系统通常包括前端页面、后台逻辑和数据库表。因此,AstroZero采用类似的结构管理应用程序。 如图1所示,应用管理页面包含三部分(红框1、红框2和红框3): 红框1中是当前应用的页面、模型和逻辑。在后续章节中,开发的页面、对象及后台逻辑,推荐按以下规

    来自:帮助中心

    查看更多 →

  • 快速了解车路协同

    人类社会将进入智能社会,万物感知、万物互联和万物智能已成为必然的趋势。从智能汽车发展看,高端汽车已经装备20多个摄像头和传感器,已经初步实现了智能化和网联化,预计2025年全球有超过7400万辆智能汽车联网。从交通的发展看,随着经济和社会快速发展,交通进入一个快速发展阶段,人、车、路的协调,已经成为了交通建设和管理部门需要解决的首要问题。

    来自:帮助中心

    查看更多 →

  • 了解AstroPro中角色

    了解AstroPro中角色 AstroPro中的角色包括工作空间级角色和项目级角色两种,您可以通过为不同的用户赋予不同的角色,来控制用户对AstroPro的操作权限。一个用户在AstroPro中只能拥有一种角色。 工作空间管理员 账号登录AstroPro后会自动开通工作空间,每个

    来自:帮助中心

    查看更多 →

  • 了解流程设计节点

    了解流程设计节点 流程启动 在流程设计页面,默认会自动创建流程启动,单击流程启动,可设置流程启动参数。 图1 流程启动 节点设置:是否开启暂存,默认为关闭。 开启并使用暂存后,会将表单数据保存在当前节点(当前仅支持20个暂存历史),供后续直接调用,暂存不会使流程发生流转。 开启暂

    来自:帮助中心

    查看更多 →

  • 了解流程的创建过程

    了解流程的创建过程 AstroFlow提供了可视化的流程编排功能,可助力企业一站式创建业务全流程。使用AstroFlow构建流程的具体步骤,如图1所示。您也可以直接参考使用应用模板快速创建流程中操作,通过智能创建功能快速创建流程。 图1 创建流程示意图 选择触发条件。 触发节点是

    来自:帮助中心

    查看更多 →

  • 深入了解用户任务

    深入了解用户任务 指派用户 工作队列与泳道 实现会签 实现投票 支持自动审批 父主题: BPM服务编排

    来自:帮助中心

    查看更多 →

  • 了解我的当前账号

    了解我的当前账号 登录AstroZero后,可以在管理中心下查看当前账号、了解当前账号所属的权限配置,具有哪些权限以及可以创建的应用、脚本、对象、服务编排、业务用户等各种资源数量。 如何判断我是不是有开发者权限? 用户:如果您的账号可以登录开发环境、沙箱环境或运行环境三种环境中的

    来自:帮助中心

    查看更多 →

  • 快速了解GeminiDB Mongo

    快速了解GeminiDB Mongo 本章节主要帮助您快速掌握GeminiDB Mongo实例创建、连接的整体流程。 连接方式介绍 使用流程 通过内网和公网连接GeminiDB Mongo实例的使用流程介绍如图1所示。 图1 通过内网和公网连接实例 表1 连接方式 连接方式 使用场景

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    kv-cache-int8量化支持的模型请参见表3。 Step1使用tensorRT量化工具进行模型量化,必须在GPU环境 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0.9.0。

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    支持的模型列表和权重文件。 Step1使用tensorRT量化工具进行模型量化 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0.9.0。 量化脚本convert_checkpoint

    来自:帮助中心

    查看更多 →

  • 使用kv-cache-int8量化

    本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化,工具下载使用指导请参见https://github.com/NVIDIA/TensorRT-LLM/tree/v0

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了