端边云车联网Serverless数据湖解决方案

如何进行需求结构化管理 为什么要进行需求结构化管理？ 并不是说任何情况下都需要进行软件项目需求的结构化管理。如果只是事务性质的管理需求，也就是有需求了能记录、能跟踪状态、实现之后不需要继续跟踪、也不需要维护需求与需求之间的关联，那么不需要思考需求结构化管理这个问题。这种情况下，不

查看更多 →

查询数据处理任务版本的结果展示 功能介绍 查询数据处理任务版本的结果展示。 调试 您可以在 API Explorer 中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI GET /v2/{project_id}/

查看更多 →

查询结构化模板简略列表 功能介绍 该接口用于查询结构化模板简略列表。 调用方法 请参见如何调用API。 URI GET /v3/{project_id}/lts/struct/customtemplate/list 表1 路径参数 参数 是否必选 参数类型 描述 project_id

查看更多 →

及实体间的相互关系。目的是从原始数据（包括结构化数据或非结构化数据）中抽取结构化的信息。 配置方式 信息抽取分为结构化抽取和非结构化抽取，其适用范围和抽取方式如表1所示。 表1 配置方式说明 配置方式 适用范围 具体方式 操作指引 结构化抽取 基础数据格式为xlsx、csv、json格式

查看更多 →

页面列表订单操作 查看调度：操作后跳转到调度页面，查看订单的调度详情数据 详情：操作后可以查看到结构化集成订单的详情数据 非结构化集成 图17 非结构化集成 新建：操作后跳转到非结构化集成新建任务页面 导出：勾选列表订单批量导出，不勾选默认为当前页面所有订单 刷新：刷新页面订单的最新数据

查看更多 →

及实体间的相互关系。目的是从原始数据（包括结构化数据或非结构化数据）中抽取结构化的信息。 配置方式 信息抽取分为结构化抽取和非结构化抽取，其适用范围和抽取方式如表1所示。 表1 配置方式说明 配置方式 适用范围 具体方式 操作指引 结构化抽取 基础数据格式为xlsx、csv、json格式

查看更多 →

连接器实例提供存储和交换数据的能力。 计费因子：规格。 包年/包月 连接器规格单价 * 购买时长 结构化数据增量包 连接器中存储结构化数据。 计费因子：容量。 包年/包月 数据存储容量 * 存储量单价*购买时长 非结构化数据增量包 连接器中存储非结构化数据。 计费因子：容量。 包年/包月 数据存储容量 * 存储量单价*购买时长

查看更多 →

大屏数据处理应用模板 描述 大屏数据处理应用模板，可配合组件资产“大屏Demo”使用。 开放能力 大屏数据处理应用模板为APP资产，提供服务能力。 服务 说明 getTodayForDmax 该服务用于获取当天时间。 getTaskStatusNum 该服务用于获取各任务状态的具体数量。

查看更多 →

工业数据处理基础工具链专题设计 数据湖 治理平台设计 工业数据资产库设计 父主题： 行业知识中心方案设计

查看更多 →

本章主要介绍如何进行文件水印相关操作。 对结构化数据文件（csv、xml和json）注入暗水印，水印内容不可见，需要进行水印提取。 对非结构化数据文件（docx、pptx、xlsx和pdf）注入明水印，可在本地打开文件，查看水印内容。 约束与限制 结构化数据文件暗水印的注入和提取时，需限制文件大小在4MB之内。

查看更多 →

物理实体支持哪些数据源？ 逻辑实体分为两类，结构化实体（实体类型为表）和非结构化实体（实体类型为图片、视频、音频、文本等）。 其中，结构化实体支持ES、DWS和OBS三种数据源；非结构化实体支持OBS数据源。 如果用户无HIVE和HDFS数据源，则该数据源不开放。 父主题： 数据建模

查看更多 →

情请见数据格式要求，其中多行单句文本格式的数据属于非结构化数据。 本章节提供一个与人物、电影有关的非结构化数据自定义信息抽取模型并使用自定义抽取模型创建 知识图谱 的流程，帮助您快速熟悉知识图谱自定义信息抽取模型创建过程和使用非结构化数据创建图谱的过程。步骤如下： 创建信息抽取模型：

查看更多 →

集成ModuleSDK进行数据处理 场景说明 代码解析 注册节点 创建产品 修改代码 项目打包 制作镜像包或插件包 创建应用 部署应用 添加边缘设备 设备接入 查看SDK运行日志 父主题： 集成ModuleSDK(C)

查看更多 →

应用场景 敏感数据自动识别分类 从海量数据中自动发现并分析敏感数据使用情况，基于数据识别引擎，对其储存结构化数据（RDS）和非结构化数据（OBS）进行扫描、分类、分级，解决数据“盲点”，以此做进一步安全防护。 用户异常行为分析 通过深度行为识别引擎，建立用户行为基线，实现基线外异

查看更多 →

实时数据集成：使用DRS、CDL、Kafka、Flink、IIoT，适用于实时数据流处理和传输以及异步消息传递和解耦，支持多种消息协议和数据格式，低延迟、高吞吐量的数据处理。 非结构化数据集成：使用OBS、FTS，适用于大规模文件的传输、同步、存储、访问，支持多种文件格式和存储策略。 API集成：使用Roma、数

查看更多 →

快速创建和使用Kafka流式数据处理集群 操作场景 本入门提供从零开始创建流式分析集群并在Kafka主题中产生和消费消息的操作指导。 Kafka集群提供一个高吞吐量、可扩展性的消息系统，广泛用于日志收集、监控数据聚合等场景。Kafka可实现高效的流式数据采集、实时数据处理存储等。 操作流程

查看更多 →

ojectId、logGroupName和logStreamName。 当结构化字段类型和数据库表字段类型一致时，支持将日志的结构化字段转储至 数据仓库 服务 GaussDB (DWS)，否则转储无效。 在结构化字段和表字段的下拉框，选择您需要转储的字段。 单击操作列下的，删除不需要的转储字段。

查看更多 →

修改项目中数据处理作业的参数接口 功能介绍 修改项目中数据处理作业的参数。 URI URI格式 POST /softcomai/datalake/dataplan/v1.0/data/process/job/{job_id}/config 参数说明 参数名 是否必选 参数类型 备注

查看更多 →

集成ModuleSDK进行数据处理 操作场景 代码解析 注册节点 创建产品 修改代码 项目打包 制作镜像包 创建应用 部署应用 添加边缘设备 设备接入 父主题： 集成ModuleSDK(Java)

查看更多 →

description String 数据处理任务的版本描述。 duration_seconds Integer 数据处理任务的运行时间，单位秒。 inputs Array of ProcessorDataSource objects 数据处理任务的输入通道。 modified_sample_count

查看更多 →

选择“云端结构化解析”，详细请参考设置日志云端结构化解析。 配置完成后，开启自定义日志时间开关，配置如下参数。 切换自定义日志时间开关时，可能会导致日志搜索界面在切换时间点附近出现时间偏差，请勿频繁切换自定义日志时间开关。 表1 参数配置表 参数 说明 示例 字段key 已提取字

查看更多 →