Implementação de modelos

O ModelArts é capaz de gerenciar modelos e serviços. Isso permite que as imagens e modelos de estrutura mainstream de vários fornecedores sejam gerenciados de maneira unificada.

Geralmente, a implantação do modelo de IA e a implementação em larga escala são complexas.

Por exemplo, em um projeto de transporte inteligente, o modelo treinado precisa ser implementado na nuvem, nas bordas e nos dispositivos. É preciso tempo e esforço para implementar o modelo nos dispositivos, por exemplo, implementar um modelo em câmeras de diferentes especificações e fornecedores. O ModelArts oferece suporte à implementação com um clique de um modelo treinado em vários dispositivos para diferentes cenários de aplicações. Além disso, ele fornece um conjunto de modos de implementação one-stop seguros e confiáveis para desenvolvedores individuais, empresas e fabricantes de dispositivos.

Figura 1 Processo de implementação de um modelo

• O serviço de inferência em tempo real apresenta alta simultaneidade, baixa latência e dimensionamento elástico, e suporta versão cinza multimodelo e testes A/B.
• Os modelos podem ser implementados como serviços de inferência em tempo real e tarefas de inferência em lote na nuvem.