Comparativos de mercado do modelo de IA
Padrão: 36 · HF: 22
Sobre os benchmarks
Benchmarks são testes padronizados que avaliam o desempenho de modelos de IA em raciocínio, conhecimento, matemática e programação. Use-os para comparar modelos de forma objetiva e escolher o modelo certo para sua tarefa.
📊 Padrão. Padrão - os quatro benchmarks públicos mais citados (MMLU, GPQA, HumanEval, SWE-Bench), retirados da página de anúncio de cada modelo; nossa pontuação os combina em um único número.
🤗 Tabela de classificação HF Open LLM. HF Open LLM Leaderboard - seis tarefas (IFEval, BBH, MATH, GPQA, MuSR, MMLU-Pro) medidas uniformemente para modelos de código aberto; ordenada pela média.
📚MMLU
57 disciplinas acadêmicas
🔬GPQA Diamond
Questões científicas de nível de doutorado
💻HumanEval
Geração de código Python
🔧SWE-Bench
Tarefas reais do GitHub
| # | Modelo↕ | Fornecedor↕ | MMLU↕ | GPQA↕ | HumanEval↕ | SWE-Bench↕ | Pontuação↑ |
|---|---|---|---|---|---|---|---|
| 1 | Meta | 63.4 | 24.7 | 58.3 | 9.5 | 37.0 | |
| 2 | Mistral AI | 68.0 | 32.0 | 73.4 | 15.0 | 45.3 | |
| 3 | 75.2 | 38.4 | 74.0 | 14.7 | 48.7 | ||
| 4 | Meta | 83.6 | 46.7 | 80.5 | 21.8 | 56.3 | |
| 5 | Alibaba/Qwen | 80.0 | 42.0 | 92.3 | 30.0 | 59.2 | |
| 6 | Alibaba/Qwen | 86.1 | 49.0 | 86.5 | 23.7 | 59.5 | |
| 7 | Meta | 88.6 | 50.7 | 89.0 | 34.1 | 63.7 | |
| 8 | DeepSeek | 88.5 | 59.1 | 89.4 | 42.0 | 68.3 | |
| 9 | DeepSeek | 90.8 | 71.5 | 92.6 | 49.2 | 75.1 |
Pontuação = MMLU×20% + GPQA×30% + HumanEval×25% + SWE-Bench×25%Todas as pontuações em % · quanto maior, melhor→ Tabela completa de modelos com preços e rapidez