ERNIE 4.5 21B A3B

Baidu

Um modelo sofisticado de mistura de especialistas (MoE) baseado em texto com 21B de parâmetros totais com 3B ativados por token, proporcionando compreensão e geração multimodal excepcional por meio de estruturas MoE heterogêneas e roteamento isolado por modalidade. Apoiando um...