Бенчмарки AI Моделей
Стандартные: 36 · HF: 22
О бенчмарках
Бенчмарки - это стандартизированные тесты, оценивающие, насколько хорошо ИИ-модели справляются с рассуждением, знаниями, математикой и программированием. Используйте их, чтобы объективно сравнивать модели и выбирать подходящую под задачу.
📊 Стандартные. Стандартные - четыре самых цитируемых публичных бенчмарка (MMLU, GPQA, HumanEval, SWE-Bench), взятые со страниц анонсов моделей; наша Оценка сводит их в одно число.
🤗 HF Open LLM Leaderboard. HF Open LLM Leaderboard - шесть задач (IFEval, BBH, MATH, GPQA, MuSR, MMLU-Pro), измеренных единообразно для open-source моделей; ранжирование по Среднему.
📚MMLU
57 академических предметов
🔬GPQA Diamond
Вопросы уровня PhD
💻HumanEval
Генерация Python-кода
🔧SWE-Bench
Реальные задачи с GitHub
| # | Модель↕ | Провайдер↕ | MMLU↕ | GPQA↕ | HumanEval↕ | SWE-Bench↕ | Оценка↑ |
|---|---|---|---|---|---|---|---|
| 1 | Meta | 63.4 | 24.7 | 58.3 | 9.5 | 37.0 | |
| 2 | Mistral AI | 68.0 | 32.0 | 73.4 | 15.0 | 45.3 | |
| 3 | 75.2 | 38.4 | 74.0 | 14.7 | 48.7 | ||
| 4 | Meta | 83.6 | 46.7 | 80.5 | 21.8 | 56.3 | |
| 5 | Alibaba/Qwen | 80.0 | 42.0 | 92.3 | 30.0 | 59.2 | |
| 6 | Alibaba/Qwen | 86.1 | 49.0 | 86.5 | 23.7 | 59.5 | |
| 7 | Meta | 88.6 | 50.7 | 89.0 | 34.1 | 63.7 | |
| 8 | DeepSeek | 88.5 | 59.1 | 89.4 | 42.0 | 68.3 | |
| 9 | DeepSeek | 90.8 | 71.5 | 92.6 | 49.2 | 75.1 |
Score = MMLU×20% + GPQA×30% + HumanEval×25% + SWE-Bench×25%Все оценки в % · выше - лучше→ Полная таблица моделей с ценами и скоростью