Hugging Face's logo

Datasets:
Vikhrmodels
/
DeathMath-leaderboard-metainfo

Modalities:
Tabular
Text
Formats:
json
Size:
< 1K
Libraries:
Datasets
pandas
Dataset card Data Studio Files Community
Dataset Viewer
Auto-converted to Parquet
model_name
stringlengths
2
28
score
float64
0.08
0.69
math_score
float64
0.09
0.88
physics_score
float64
0
0.5
total_tokens
int64
136k
2.19M
evaluation_time
float64
577
17k
system_prompt
stringclasses
2 values
o3-mini-high
0.692105
0.884211
0.5
2,186,756
5,107.46456
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
o3
0.668904
0.868421
0.469388
1,164,000
5,025.797904
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
o4-mini-high
0.663802
0.868421
0.459184
1,997,548
5,811.026827
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
Qwen QwQ 32B
0.530397
0.652632
0.408163
2,112,951
16,974.732091
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
Gemini 2.0 Flash
0.513641
0.557895
0.469388
495,313
736.57584
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
Claude 3.7 Sonnet
0.470032
0.542105
0.397959
405,583
1,081.969652
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
gpt-4.1
0.465575
0.584211
0.346939
549,983
2,434.593305
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
Gemma 3 27B
0.400107
0.473684
0.326531
384,164
3,024.304121
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
Claude 3.5 Sonnet
0.376262
0.415789
0.336735
252,843
702.003228
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
DeepSeek R1 Distill Qwen 14B
0.346133
0.447368
0.244898
806,258
7,904.137917
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
DeepSeek V3 0324
0.34334
0.431579
0.255102
339,857
2,901.808118
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
gpt-4o
0.338238
0.431579
0.244898
399,483
1,145.041135
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
GigaChat-2-Max
0.314232
0.363158
0.265306
185,204
965.849054
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
GigaChat-2-Pro
0.27014
0.315789
0.22449
215,297
1,250.343486
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
Qwen2.5 72B Instruct
0.189474
0.378947
0
322,441
5,670.725984
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
GigaChat-Max
0.181472
0.189474
0.173469
200,271
1,056.479794
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
Gemma 3 4B
0.179968
0.257895
0.102041
726,285
2,959.35819
Вы - полезный помощник по математике и физике. Ответьте на русском языке.
GigaChat-2
0.083083
0.094737
0.071429
136,051
576.884927
Вы - полезный помощник по математике и физике. Ответьте на русском языке.

DeathMath Leaderboard

DeathMath - это бенчмарк для оценки способности моделей решать сложные математические и физические задачи на русском языке.

Текущий лидерборд

Последнее обновление: 2025-04-29 16:40:05

Модель Общий балл Математика Физика Токены Время оценки
o3-mini-high 0.692 0.884 0.500 2,186,756 5107.5s
o3 0.669 0.868 0.469 1,164,000 5025.8s
o4-mini-high 0.664 0.868 0.459 1,997,548 5811.0s
Qwen QwQ 32B 0.530 0.653 0.408 2,112,951 16974.7s
Gemini 2.0 Flash 0.514 0.558 0.469 495,313 736.6s
Claude 3.7 Sonnet 0.470 0.542 0.398 405,583 1082.0s
gpt-4.1 0.466 0.584 0.347 549,983 2434.6s
Gemma 3 27B 0.400 0.474 0.327 384,164 3024.3s
Claude 3.5 Sonnet 0.376 0.416 0.337 252,843 702.0s
DeepSeek R1 Distill Qwen 14B 0.346 0.447 0.245 806,258 7904.1s
DeepSeek V3 0324 0.343 0.432 0.255 339,857 2901.8s
gpt-4o 0.338 0.432 0.245 399,483 1145.0s
GigaChat-2-Max 0.314 0.363 0.265 185,204 965.8s
GigaChat-2-Pro 0.270 0.316 0.224 215,297 1250.3s
Qwen2.5 72B Instruct 0.189 0.379 0.000 322,441 5670.7s
GigaChat-Max 0.181 0.189 0.173 200,271 1056.5s
Gemma 3 4B 0.180 0.258 0.102 726,285 2959.4s
GigaChat-2 0.083 0.095 0.071 136,051 576.9s

Как принять участие в бенчмарке

Для участия в бенчмарке DeathMath:

  1. Клонируйте репозиторий и запустите тесты вашей модели
  2. Загрузите результаты через HuggingFace Space
  3. Дождитесь проверки и добавления результатов в лидерборд

Формат результатов

Результаты должны быть в формате JSON со следующей структурой:

{
  "score": 0.586,
  "math_score": 0.8,
  "physics_score": 0.373,
  "total_tokens": 1394299,
  "evaluation_time": 4533.2,
  "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
}

Лицензия

Бенчмарк распространяется под лицензией Apache 2.0

Downloads last month
157
Size of downloaded dataset files:
8.31 kB
Size of the auto-converted Parquet files:
6.33 kB
Number of rows:
18

Space using Vikhrmodels/DeathMath-leaderboard-metainfo 1