A AWS anunciou que o serviço de inferência Amazon SageMaker AI passou a suportar particionamento de GPU utilizando a tecnologia NVIDIA Multi-Instance GPU (MIG). A funcionalidade permite dividir um acelerador em até sete partições isoladas com memória e computação dedicadas, viabilizando o compartilhamento de hardware entre modelos pequenos de embeddings e classificação, reduzindo custos ociosos de infraestrutura.
← Todas as notícias
Tecnologia1 min de leituraPor Tiago Bona
SageMaker AI habilita particionamento de GPU com tecnologia NVIDIA MIG
Recurso permite rodar múltiplos modelos menores em um mesmo acelerador com isolamento total de hardware.
O Radar na sua caixa de entrada
Uma seleção curta de tecnologia, negócios e inovação, com confirmação por e-mail.