对于大部分模型，特别是小模型，一个批量的输入组成一个batch交给芯片做模型的推理可获得性能收益。使用batch推理将大大提高数据的吞吐率，同时也将提高芯片的利用率，在损失一定的时延情况下提升了整体的性能。因此，构建一个高性能应用应当在时延允许的情况下尽可能使用大batch。框架为了用户能更方便、更灵活的使用batch，引入了超时机制，用

查看更多 →

连接超时异常 如果调用接口时出现“connect ETIMEDOUT”错误，表明连接超时，其原因一般是服务地址（Endpoint）错误或网络不通导致无法连接OBS服务，此时请检查服务地址和网络状况。 父主题： 异常处理

查看更多 →

连接超时异常 如果从ObsException->getExceptionMessage中获取到的错误描述为“Exceeded retry limitation, xxx Failed to connect to xxx”，表明连接超时，其原因一般是服务地址（Endpoint）错误

查看更多 →

休息超时提醒 标示符 AgentState_Rest_Timeout 作用 表示某个座席请求休息后已经超时，提醒用户超时信息（此事件为提醒，并不代表座席退出休息态）。 附带信息 无。 示例： {"message":"","retcode":"0","event":{"eventT

查看更多 →

错误信息包含“read error”，且为全量迁移过程中失败，数据量过大的情况下，建议开始迁移时不要选择“自动重连”模式，等到进入“增量迁移”后，再选择“自动重连”模式，且调大repl-timeout的时间值；同时建议调整源端output buffer参数，buffer参数的大

查看更多 →

个可用CN。首次建连时通过jdbc连接串上配置的ip建连，只要其中有一个可以正常建连就会刷新内部的当前可用的CN列表，之后根据CN列表进行建连，不再依据jdbc连接串中的ip。 建议：建议值为true。 refreshCNIpListTime 原理：新连接建连时会检测当前时间距离

查看更多 →

错误信息包含“read error”，且为全量迁移过程中失败，数据量过大的情况下，建议开始迁移时不要选择“自动重连”模式，等到进入“增量迁移”后，再选择“自动重连”模式，且调大repl-timeout的时间值；同时建议调整源端output buffer参数，buffer参数的大

查看更多 →

个可用CN。首次建连时通过jdbc连接串上配置的IP建连，只要其中有一个可以正常建连就会刷新内部的当前可用的CN列表，之后根据CN列表进行建连，不再依据jdbc连接串中的IP。 建议：建议值为true。 refreshCNIpListTime 原理：新连接建连时会检测当前时间距离

查看更多 →

创建虚拟机 创建空虚拟机 安装Windows操作系统 父主题： 基于VirtualBox使用ISO创建Windows镜像

查看更多 →

配置虚拟机 优化Linux虚拟机 安装Cloud-Init工具 配置Cloud-Init工具 安装一键式重置密码插件（可选） 配置NetworkManager 父主题： 基于VirtualBox使用ISO创建Linux镜像

查看更多 →

创建虚拟机 环境要求（仅Windows镜像涉及） 工具准备 使用 镜像服务 的ISO镜像功能创建虚拟机 使用virt-manager工具创建虚拟机

查看更多 →

虚拟机集群 创建集群 创建扩容模板 父主题： 部署服务

查看更多 →

Xen虚拟机 本章节介绍如何使用Xen虚拟机的操作，操作前需要先获取服务运维岗位权限，权限申请操作请参见申请权限。 启用主机 进入运维中心工作台。 在顶部导航栏选择自有服务。 单击，选择“运维 > 主机管理服务（VMS）”。 选择左侧导航栏的“主机列表 > Xen虚拟机”。 在主机列表上方单击“开机”。

查看更多 →

Xen虚拟机 本章节介绍如何使用Xen虚拟机的操作，操作前需要先获取服务运维岗位权限，权限申请操作请参见申请权限。 启用主机 进入运维中心工作台。 在顶部导航栏选择自有服务。 单击，选择“运维 > 主机管理服务（VMS）”。 选择左侧导航栏的“主机列表 > Xen虚拟机”。 在主机列表上方单击“开机”。

查看更多 →

创建空虚拟机 前提条件 已安装VirtualBox。 操作步骤 打开VirtualBox，单击“新建”，在弹出的“新建虚拟电脑”对话框中输入虚拟机名称，并选择类型和版本，单击“下一步”。 以Ubuntu为例，类型选择：Linux。 请确保选择的版本与待安装的操作系统版一致。 图1

查看更多 →

创建Linux虚拟机 概述 注册ISO文件（Linux） 使用ISO文件创建Linux 云服务器 父主题： 使用镜像服务的ISO镜像功能创建虚拟机

查看更多 →

虚拟机环境配置 虚拟机Windows操作系统安装完成后，需要关闭防火墙，并配置远程桌面启动。 操作步骤 单击左下角的图标，选择“ 服务器 管理”，进入“服务器管理”页面。 在左侧导航树中选择“ 本地服务器 ”，在右侧“Windows防火墙”区域，单击其后的状态链接。 在“Windows防

查看更多 →

创建虚拟机（Linux） 使用virt-manager创建虚拟机，以Oracle Linux 6.8虚拟机操作系统为例，其他操作系统类似。以下步骤图示仅供参考，视实际情况而定。 下载所需ISO镜像到宿主机，或者在本地下载后通过Xshell连接宿主机，将ISO文件上传。 登录宿主机

查看更多 →

虚拟机日志接入 本章节介绍如何通过filebeat采集虚拟机日志。 监控服务安装filebeat是使用子用户sudo权限进行安装，SUSE15系统没有自带sudo命令，如果需要采集的虚拟机操作系统为SUSE15，需要使用root用户登录主机，执行zypper install su

查看更多 →

请求超时返回Timeout 问题现象 服务预测请求超时 原因分析 请求超时，大概率是APIG（API网关）拦截问题。需排查APIG（API网关）和模型。 处理方法 优先排查APIG（API网关）是否是通的，可以在本地使用curl命令排查，命令行：curl -kv {预测地址}。如

查看更多 →

会议超时提醒事件 标示符 AgentConf_Timeout 作用 会议申请成功后开始计时，当会议剩余时间到达设置的提示时间点时，将触发该事件。 座席在收到该事件后选择是否延长会议时间，如果不做延时操作，当会议到达结束时间点后就会被释放。 附带信息 confId表示会议ID。 示例：

查看更多 →