Amazon SageMaker AI habilita instâncias EC2 G6e para processamento em lote com GPUs L40S
Suporte a placas NVIDIA Tensor Core otimiza inferência offline de modelos de difusão e grandes modelos de linguagem.
Capa editorial: Amazon SageMaker AI habilita instâncias EC2 G6e para processamento em lote com GPUs L40S
O Amazon SageMaker AI incorporou as instâncias Amazon EC2 G6e às opções de execução do serviço Batch Transform. Equipadas com GPUs NVIDIA L40S de 48 GB de memória dedicada e processadores AMD EPYC, essas máquinas são direcionadas a operações intensivas de inferência offline, viabilizando previsões de grande escala em modelos multimodais de imagem, vídeo e áudio armazenados diretamente no Amazon S3 sem a necessidade de manter endpoints ativos.
O Radar na sua caixa de entrada
Uma seleção curta de tecnologia, negócios e inovação, com confirmação por e-mail.
