A equipe Tencent Hy publicou no Hugging Face os pesos do Hy4 Preview e de uma variante FP8. O cartão do modelo descreve 770 bilhões de parâmetros no backbone, com 49 bilhões ativados por token, 78 camadas e arquitetura mixture-of-experts.
O que está confirmado
A documentação oficial lista contexto de até um milhão de tokens, 256 especialistas roteados por camada MoE e oito especialistas ativados por token. A equipe diz ter ajustado dados para software, jogos, finanças e segurança. Benchmarks são fornecidos pelo próprio desenvolvedor e precisam de validação independente.
Por que importa
Parâmetros totais não equivalem a custo por requisição porque apenas uma parte é ativada. Mesmo assim, hospedar um modelo desse porte exige infraestrutura substancial, quantização e engenharia. A abertura dos pesos amplia auditoria e adaptação, mas não elimina limitações conhecidas nem define licença de uso sem leitura dos termos.
- Os pesos foram publicados em repositório verificado da Tencent.
- 49 bilhões de parâmetros são ativados a cada token no backbone.
- Desempenho real depende de hardware, precisão, implementação e carga.
A leitura responsável é acompanhar a execução e voltar às fontes listadas quando novos documentos forem publicados. Indicadores futuros devem ser confrontados com entregas, registros e resultados observáveis. Esta matéria não substitui avaliação técnica, financeira ou regulatória específica.