更新时间:2022-05-07 GMT+08:00
分享

创建采集任务(采集Agent方式)

使用采集Agent场景需要用户在自己的网络区域安装采集Agent,保证和数据源网络可以正常通信。

安装采集Agent的方法请参考安装采集Agent

气象数据不支持采集Agent方式。

支持的协议类型为:sftp、ftps、restful、corba、snmp、Kafka、database。

操作步骤

  1. 在数据服务左侧导航,选择工具箱>数据接入
  2. 选择“采集任务”页签。
  3. “采集任务”界面右上角,单击“创建任务”
  4. 选择数据接入方式。

    这里以管>接入为例,用户根据需求选择。

    • ICT数据接入:分为端(暂不支持)、管、云。
      • 端:指的是终端数据,包含手机和机顶盒的数据。
      • 管:指的是网管数据,包含接入、传送(暂不支持)、数通、云核、无线、能源、IT和园区的数据。
      • 云:指的是互联网和云服务的数据,包含GIS(暂不支持)、气象、施工、云服务、OBS的数据。
    • 其他数据接入:分为本地上传、远程sftp/ftps、Kafka流数据、数据库数据、API。

  5. “网络配置”下,选择“采集Agent”
  6. (可选)选择采集Agent。

    如果安装了多个采集Agent,执行此步骤。

  7. 单击“下一步”
  8. 配置基本信息,参数说明见表1

    当数据接入方式选择云>气象或当数据接入方式选的是“其他数据接入”区域下的方式时,则无基本信息。
    表1 基本信息参数说明

    参数

    说明

    网管信息

    当数据接入方式选择云>施工数据云>云服务数据时,无此参数。

    必填项。

    数据所在的网管名称。选择了接入方式后,在下拉中选择。

    数据类型

    必填项。

    采集的数据的类型。支持多选。例如“性能数据”。

  9. 配置数据源信息,参数说明见表2

    “数据类型”多选后,需要对每个数据类型下的数据源进行配置,这里以协议类型为“SFTP”为例。

    表2 配置数据源信息

    参数

    说明

    协议类型

    必填项。

    数据源协议的类型。“数据类型”选择值后,在下拉框中选择。例如“SFTP”。

    “协议类型”的值为“SFTP”“FTPS”时,支持添加多数据源。

    IP地址和端口

    必填项。

    数据所在的主机的IP地址和端口号。

    用户名

    必填项。

    数据所在的主机的用户名。

    密码

    必填项。

    数据所在的主机的密码。

    数据存放路径

    必填项。

    采集的数据的存储路径。以“/”开头,不能有“../”或“~/”。

    其他协议类型的数据源,配置参考请参见数据源配置参考

  10. 数据源信息配置完成后,单击“连通性测试”

    如果有多个数据源,每个数据源信息配置完成后,都需要做连通性测试。

  11. 配置采集策略。

    满足以下条件时才需要配置采集策略:
    • “协议类型”“SFTP”“FTPS”“Database”时。
    • 当数据接入方式选择云>云服务数据,且“协议类型”“RESTFul”时。
    • 当数据接入方式选择管>IT时。
    采集策略参数说明如下:
    • 一次性采集:该采集任务仅采集一次。
    • 按间隔采集:该采集任务按设置的间隔时间采集数据。
    • 按周期采集:该采集任务按设置的周期和启动时间采集数据。

  12. 单击“确定”
  13. (可选)配置数据存储,参数说明见表3

    当数据接入方式选择"其他数据接入>Kafka流数据"时,则需要执行此步骤。

    表3 配置数据存储

    参数

    说明

    存储类型

    必填项。

    数据存储类型。

    资源名称

    选填项。

    如果选择存储类型为Kafka,支持选择该用户的mrs Kafka资源。

    topic

    选填项。

    topic可选择已有值,也可用户手动输入用于新建topic。

    副本数

    选填项。

    topic选择已有值时展示该topic的副本数;如果topic为新建场景用户需要手动输入副本数用作创建topic的参数,取值范围:1-2;

    分区数

    选填项。

    topic选择已有值时展示该topic的分区数;如果topic为新建场景用户需要手动输入分区数用作创建topic的参数,取值范围:1-10;

  14. 单击“确定”
  15. 配置任务信息,任务信息参数说明见表4

    表4 任务信息参数说明

    参数

    说明

    任务名称

    必填项。

    采集任务的名称。长度为1~64个字符,由数字、字母、中文和(_-)组成。

    标签

    选填项。

    标签信息。长度为0~64个字符 ,由数字、字母和(_-)组成。

    如果用于云地协同,此处填写须与网管UUID一致。

    有效时间

    选填项。

    成功执行采集任务采集到的文件的保留时间。

    描述

    选填项。

    对该采集任务的描述。 长度为0~20个字符 。

  16. 单击“创建”
  17. “成功”对话框中单击“确认”

    采集任务创建成功后,自动显示在“采集任务”页签的任务列表中。

    如果“数据类型”选择了多种,则系统显示的采集任务的名称为设置的任务名称后加下划线及数字区分。

  18. (可选)在采集任务列表中,支持对已创建的任务做如下操作。

    • 编辑任务:在采集任务列表中需要编辑的任务对应的“操作”列下,单击
    • 删除任务:在采集任务列表中需要删除的任务对应的“操作”列下,单击

分享:

    相关文档

    相关产品

close