什么是盘古大模型服务

盘古大模型服务简介

盘古大模型服务主要包括盘古大模型与ModelArts Studio大模型开发平台。

• 模型大模型包括盘古基础大模型、盘古行业大模型、盘古专业大模型和盘古AIKits图像搜索大模型。
  • 盘古基础大模型提供NLP、多模态、CV、预测、科学计算五大盘古基础模型。
  • 盘古行业大模型提供基于盘古基础大模型训练的行业大模型，涉及金融、政务、油气、矿山、电力、制造、交通、医学等行业领域。
  • 盘古专业大模型提供搜索规划模型、向量&重排模型，用于RAG场景。
  • 盘古AIKits图像搜索大模型，主要用于服装行业。
• ModelArts Studio大模型开发平台是一站式大模型工具链平台，支持百模千态，打造数据、模型、Agent三引擎的大模型开发平台。
  • 数据工程

    数据是大模型训练的基础，为大模型提供了必要的知识和信息。数据工程工具链作为盘古大模型服务的重要组成部分，具备数据获取、清洗、数据合成、数据标注、数据评估、数据配比、数据发布和管理等功能。

    该工具链能够高效收集和处理各种格式的数据，满足不同训练和评测任务的需求。通过提供自动化的质量检测和数据清洗能力，对原始数据进行优化，确保其质量和一致性。同时，数据工程工具链还提供强大的数据存储和管理能力，为大模型训练提供高质量的数据支撑。

  • 模型开发

    模型开发工具链是盘古大模型服务的核心组件，提供从模型创建到部署的一站式解决方案。

    该工具链具备模型训练、压缩、部署、评测、推理等功能，通过高效的推理性能和跨平台迁移工具，模型开发工具链能够保障模型在不同环境中的高效应用。

  • Agent开发

    Agent应用开发工具链是盘古大模型平台的关键模块，支持提示词工程和智能Agent应用创建。该工具链提供提示词设计和管理工具，优化大模型的输入提示，提升输出的准确性和相关性。通过可视化编排工具，应用开发工具链加速大模型应用的开发，满足复杂业务需求。

服务架构

盘古大模型服务产品架构请参考图1。

图1 盘古大模型服务产品架构

盘古大模型与ModelArts Studio大模型开发平台关系

盘古大模型通过ModelArts Studio大模型开发平台承载，用户在平台上可以使用自己的数据增训和微调模型，可对训练的模型进行压缩、评测、部署，也可以在平台上创建自己的Agent应用。

服务访问方式

• 管理控制台方式

  盘古大模型服务支持通过管理控制台访问，包含数据工程、模型开发、Agent开发等功能，您可以在管理控制台端到端完成您的AI开发，具体操作请参见《用户指南》。

• API方式

  如果您需要将盘古大模型服务集成到第三方系统，用于二次开发，请使用API方式访问盘古大模型服务，具体操作和API详细描述，请参见《API参考》。