← Todas as notícias

Tencent abre modelo Hy4 com 770 bilhões de parâmetros para tarefas profissionais

A arquitetura mixture-of-experts ativa 49 bilhões de parâmetros por token e oferece contexto de até um milhão de tokens.

A equipe Tencent Hy publicou no Hugging Face os pesos do Hy4 Preview e de uma variante FP8. O cartão do modelo descreve 770 bilhões de parâmetros no backbone, com 49 bilhões ativados por token, 78 camadas e arquitetura mixture-of-experts.

O que está confirmado

A documentação oficial lista contexto de até um milhão de tokens, 256 especialistas roteados por camada MoE e oito especialistas ativados por token. A equipe diz ter ajustado dados para software, jogos, finanças e segurança. Benchmarks são fornecidos pelo próprio desenvolvedor e precisam de validação independente.

Por que importa

Parâmetros totais não equivalem a custo por requisição porque apenas uma parte é ativada. Mesmo assim, hospedar um modelo desse porte exige infraestrutura substancial, quantização e engenharia. A abertura dos pesos amplia auditoria e adaptação, mas não elimina limitações conhecidas nem define licença de uso sem leitura dos termos.

  • Os pesos foram publicados em repositório verificado da Tencent.
  • 49 bilhões de parâmetros são ativados a cada token no backbone.
  • Desempenho real depende de hardware, precisão, implementação e carga.

A leitura responsável é acompanhar a execução e voltar às fontes listadas quando novos documentos forem publicados. Indicadores futuros devem ser confrontados com entregas, registros e resultados observáveis. Esta matéria não substitui avaliação técnica, financeira ou regulatória específica.

O Radar na sua caixa de entrada

Uma seleção curta de tecnologia, negócios e inovação, com confirmação por e-mail.

Você pode retirar cada consentimento. Leia o Aviso de Privacidade.