O serviço Amazon SageMaker AI habilitou o suporte a particionamento de GPU em instâncias de inferência em tempo real utilizando a tecnologia NVIDIA Multi-Instance GPU (MIG). A função permite dividir um acelerador em até sete partições com memória e computação isoladas por hardware, otimizando o custo de hospedagem para modelos menores e intermediários, como embeddings e classificadores, nas instâncias P4d, P5, G7 e G7e.
← Todas as notícias
IA1 min de leituraPor Tiago Bona
Amazon SageMaker AI passa a suportar particionamento de GPU com tecnologia MIG
Recurso divide GPUs NVIDIA em até sete partições dedicadas para permitir a execução de múltiplos modelos em um mesmo acelerador com isolamento total.
O Radar na sua caixa de entrada
Uma seleção curta de tecnologia, negócios e inovação, com confirmação por e-mail.
Mais sobre IA
IA
Amazon Bedrock incorpora inferência entre regiões e modelos GPT-5.6 na AWS GovCloud
Recursos avançados de roteamento de inferência e APIs nativas chegam a ambientes governamentais em nuvem.
IA
Amazon Bedrock adiciona inferência entre regiões para modelos OpenAI no AWS GovCloud
Suporte a GPT-5.6 Terra e Luna inclui roteamento automático de capacidade e conformidade de soberania de dados nos EUA.
IA
OpenAI disponibiliza Daybreak Red para ciberdefesa no Amazon Bedrock
Modelo especializado em pesquisa autorizada de vulnerabilidades passa a operar em nuvem governamental com isolamento por hardware.