- Как это работает
- Длинный контекст
Один запрос · методика context-retrieval-v0
Маркер внутри
длинного текста.
AuditLLM кладёт случайный код в текст выбранной длины и просит модель вернуть только этот код. Отчёт говорит одно: найден маркер в тексте такой длины или нет.
Это не лимит контекстного окна в токенах. Символы не равны токенам, у запроса есть дополнительные инструкции, а один успешный ответ не доказывает максимальную длину контекста.