A AWS anunciou que o Amazon SageMaker HyperPod agora suporta cache de modelos, técnica de otimização que pré-carrega pesos em discos NVMe locais e armazena contêineres previamente. A medida elimina downloads lentos via rede durante eventos de autoscaling em cargas de trabalho com IA generativa, reduzindo o tempo de escalonamento em cerca de 60% e o tempo de obtenção de imagens em até 97%.
← Todas as notícias
IA1 min de leituraPor Tiago Bona
SageMaker HyperPod implementa cache de modelos para acelerar inferência de LLMs
Recurso pré-carrega pesos e imagens de contêineres reduzindo cold starts em até 60%.
O Radar na sua caixa de entrada
Uma seleção curta de tecnologia, negócios e inovação, com confirmação por e-mail.
Mais sobre IA
IA
Amazon Bedrock incorpora inferência entre regiões e modelos GPT-5.6 na AWS GovCloud
Recursos avançados de roteamento de inferência e APIs nativas chegam a ambientes governamentais em nuvem.
IA
OpenAI disponibiliza Daybreak Red para ciberdefesa no Amazon Bedrock
Modelo especializado em pesquisa autorizada de vulnerabilidades passa a operar em nuvem governamental com isolamento por hardware.
IA
OpenAI passa a respeitar sinal compartilhado em robots.txt para treinamento
Padrão unificado facilita o controle de webmasters sobre o uso de dados públicos no aprendizado de modelos.