Глоссарий

Что такое Бенчмарк (Benchmark)

Бенчмарк (Benchmark)

Бенчмарк — стандартизированный тест для объективного сравнения AI-моделей по знаниям, коду, математике.

Бенчмарк — стандартизированный тест для объективного сравнения AI-моделей. Популярные бенчмарки: MMLU (широкие знания, 57 предметов), HumanEval (генерация кода), GSM8K (математика), GPQA (экспертные вопросы), MT-Bench (диалоговые способности). Результаты бенчмарков публикуются в лидербордах (Open LLM Leaderboard, Chatbot Arena). Критика: модели могут быть оптимизированы под конкретные тесты, реальная полезность не всегда коррелирует с баллами бенчмарков.

Что такое Бенчмарк (Benchmark) -- Бенчмарк (Benchmark) | AIHub