Парное сравнение · методика paired-capability-v1
Два API.
Одни и те же задачи.
Каждая задача с проверяемым ответом уходит дважды: напрямую к эталону и через проверяемый сервис. В отчёте — исход каждой пары, разница во времени до первого токена и ничего сверх измеренного.
Как устроено измерение
Три шага
Два подключения
Base URL, ID модели и ключ каждой стороны. Ключи уходят на сервер только на время запуска и не попадают в сохранённую запись.
Пары задач
Каждый повтор отправляет три задачи обеим сторонам. Порядок двух запросов внутри пары выбирается случайно, чтобы одна сторона не получала преимущества.
Только измерения
Сохраняются исходы задач и задержки. Тексты запросов и ответов не сохраняются, ключи — тоже.
Сравнение выполняется
0 из 0 парПолоса показывает, сколько пар уже вернулось с ответом. Пока сервер не сообщил общее число пар, оценка времени не показывается.
Сохранённое измерение
Результат парного сравнения
Доля выполненных задач
Измеренная доля и 95% интервал Уилсона, рассчитанный по парам этого запуска. На коротком наборе интервал широкий: он показывает, сколько исходов могло бы быть при другом наборе задач.
Время до первого токена
Каждая точка — одна задача с измеренным TTFT. Несколько десятых секунды на таком наборе не отделяются от случайных колебаний.
По категориям задач
Разница TTFT: проверяемый минус эталон
Положительное значение — проверяемый отвечал медленнее эталона. Разница считается только там, где измерены оба значения.
Все пары запросов
Исход каждой задачи и время до первого токена у обеих сторон.
Эталоны в публичном каталоге
Публичный архив
Сохранённые сравнения
История на этом сервере публична. Адреса и ID моделей внесены пользователями и не удостоверены AuditLLM.