什么是AI原生应用引擎
AI原生应用引擎是企业专属的一站式大模型开发及应用构建平台。无论是研发技术人员还是业务人员,都可通过简易的界面化操作,快速开发大模型应用或训练专属模型。
AI原生应用引擎提供企业专属大模型开发和应用开发的整套工具链,包括数据准备、模型选择/调优、知识工程、模型编排、应用部署、应用集成等能力,降低智能应用开发门槛、提升开发效率,助力企业客户将专属大模型能力融入自己的业务应用链路或对外应用服务中,实现降本增效、改进决策方式、提升客户体验、创新增长模式等经营目标,完成从传统应用到智能应用的竞争力转型。
AI原生应用引擎应用场景
面向不同的企业需求,AI原生应用引擎提供不同的功能服务。
例如,智能对话、以文搜图、NL2SQL等通用应用场景,可在AI原生应用引擎体验各大模型推理云服务,并通过可视化画布流程编排进行业务集成。
细分领域如金融、电网场景,需要对推理结果进行定制调整,则可在AI原生应用引擎使用模型在线微调训练功能,快速生成行业场景定制模型服务,满足用户特定需求。
- 对话沟通
通过对话沟通,快速理解并响应客户的需求,提供高效的解决方案或信息。对于涉及行业和领域的专业知识或技术,平台的知识库能够有效地补充相关知识,确保提供专业性的指导或建议。
举例:儿科知识问答Agent,不仅可以迅速响应用户问题,还可为患者提供专业且权威的儿科医学知识。
图1 对话沟通
- 内容创作
可应用于市场营销和品牌传播部门。根据目标受众的偏好和需求,创作吸引人的营销文案、视频剧本和故事内容,包括市场研究、内容策划、以及利用各种数字媒体平台发布和推广内容。帮助企业增强品牌影响力,提高用户参与度和品牌忠诚度。
举例:根据关键词或主题自动生成诗歌、推广文案、报告、故事等。
图2 内容创作
- 分析控制
针对数据分析和业务智能部门,利用先进的数据分析工具和算法,从海量数据中提取有价值的信息,帮助企业做出基于数据的决策。包括客户行为分析、市场趋势预测、以及优化业务流程等。帮助企业提高运营效率,降低成本,同时为客户提供更加个性化的服务。
举例:在策划营销活动时,可以帮助营销人员分析市场数据并制定合理的推广方案。
图3 分析控制
为什么使用AI原生应用引擎
- 一站式AI原生应用平台
平台提供数据准备、模型选择/调优、知识工程、可视化画布流程编排、开箱即用的Prompt模板应用、应用部署及应用集成能力,为企业打造专属的AI原生应用。
- 丰富多样的模型选择
广泛纳入业界优秀大模型,快速接入模型,提供行业模型评测能力,对多系列、多规格、多版本、多领域、多场景的大模型完成分级分权等精细化管理。
- 安全可信
构建企业应用与大模型之间的安全隔离带,保障AI原生应用安全可信。
AI原生应用引擎功能介绍
AI原生应用引擎的主要功能如表1所示。
主要功能 |
功能简介 |
---|---|
Agent管理 |
支持一站式创建专属AI原生应用,对于创建的Agent进行体验调测,并通过API或Web方式发布后即可对外提供服务。 同时,您可以体验平台预置的Agent,享受AI带来的便利和乐趣。 |
数据管理 |
除平台预置的数据集外,同时还支持创建知识数据集和微调数据集。丰富的知识数据集及强大的索引配置是构建专业化、结构化知识库的基础;微调数据集是模型微调的基础,通过在微调数据集上进行训练,您可以获得改进后的新模型以适应特定任务。 |
模型管理 |
支持通过API接入模型服务,同时支持将平台预置模型进行微调后,部署为模型服务,为检验模型的准确性及反应效果,您可以通过调测模型能力进行体验调测,确保模型能够在实际应用中正常运行。 |
提示语管理 |
平台预置了丰富的提示语模板,并支持用户自创建提示语模板。同时,平台提供的提示语优化及推理结果获取等功能,有效地提升了提示语模板的准确性,使得提示语模板更符合情境,引导Agent提供更加精准的回答。 |
知识库管理 |
用户可以自定义创建并管理知识库,用于组织和管理大量的数据信息,且创建的知识库启用后可在创建并发布Agent时引用。 |