A arquitetura do Prosodia segue um modelo de três camadas, onde cada nível tem responsabilidades bem definidas e se comunica apenas com as camadas adjacentes.
Camada Superior: Orquestração
O Gerenciador controla o ciclo de vida dos trabalhos. O Agendador ordena a execução respeitando dependências. O componente de Estados rastreia transições e permite recuperação. O Cluster mantém visibilidade dos recursos disponíveis.
Camada Intermediária: Facades
Cada facade expõe uma API consistente independente do backend utilizado. Memória calcula requisitos e monitora consumo. Paralelismo distribui carga entre GPUs. Mensagens coleta logs e métricas. Inferência otimiza serving. Implantação prepara modelos para produção.
Camada Inferior: Adaptadores
Os adaptadores traduzem operações genéricas para sistemas especializados. Curadoria usa Ray e Dask para processar terabytes de dados. Treinamento usa Megatron para modelos com bilhões de parâmetros. Avaliação conecta a lm-eval para benchmarks padronizados. Exportação gera formatos otimizados via TensorRT.
voltar ao índice
|
|
