Распределения ответов · протокол categorical-v1
Как API
выбирают ответы.
Один и тот же набор коротких вопросов с фиксированными вариантами уходит в эталонный и проверяемый API. AuditLLM сравнивает частоты ответов: JSD по каждой ячейке и перестановочный тест по выборке целиком.
Порядок работы
Три шага
Собрать эталон
Эталонный API получает короткие вопросы и возвращает один вариант из фиксированного набора. Сохраняются частоты вариантов и задержка, а не тексты ответов.
Сравнить проверяемый API
Тот же набор вопросов уходит в проверяемый API. Число запросов совпадает с эталоном, поэтому частоты сравнимы.
Прочитать измерения
JSD показывает, насколько разошлись частоты, перестановочный тест — вероятность такого расхождения при одинаковых распределениях. Вывод ограничен размером выборки.
Сбор эталона идёт
0 из 0Полоса показывает, сколько ответов уже вернулось с ответом. Если сбор остановить, незавершённый профиль не сохраняется.
Сбор проверяемой выборки
0 из 0Публичный архив
Сохранённые сравнения
История на этом сервере публична. Адреса и ID моделей внесены пользователями и не удостоверены AuditLLM. Тексты ответов и ключи не сохраняются.
Эталоны
Сохранённые профили
Профиль эталона хранится на сервере под своим ID. Чтобы вернуться к нему позже, сохраните ID: списка профилей у сервера пока нет.