Qwen2-7B-Instruct: отдельная модель для текстовых инструкций

Qwen2 вышла как семейство с базовыми и настроенными на инструкции весами нескольких размеров. Репозиторий Qwen/Qwen2-7B-Instruct содержит именно вариант для ответа на запрос пользователя; Qwen/Qwen2-7B Base остаётся другим ID. В практической карточке это разделение важнее общего названия поколения. Представим регламент: попросить выписать исполнителей, сроки и штрафы таблицей, а для отсутствующего условия писать «не указано». Instruct-вариант предназначен для такого формата общения, но выполнение конкретного запроса ещё нужно измерить. Base нельзя незаметно подставить вместо него и затем объяснять различие результатов «качеством Qwen2». Анонс серии говорит о расширении языков обучения, включая русский, однако наличие языка в тренировочном наборе не доказывает, что точный 7B checkpoint безошибочно прочтёт юридические формулировки. Для русской оценки нужен набор исходных документов, эталонных фактов и сохранённых ответов.

В карточке разработчик указывает поддержку до 131 072 токенов, но отдельно объясняет, как получать вход длиннее 32 768: использовать YaRN, добавить rope_scaling и развернуть совместимый сервер. Там же есть предупреждение, что статический коэффициент YaRN в описанной версии vLLM может влиять на короткие запросы. Следовательно, цифру 128K нельзя переносить в любую кнопку «Попробовать» или считать свойством произвольного API. Даже если текст помещается в окно, результат следует проверять: можно разместить три контрольных числа в начале, середине и конце документа и попросить модель дать цитату для каждого. Попадание по отдельному маркеру ещё не равно корректной сводке противоречивых пунктов. Для закупки сервиса существенны также фактический лимит хоста, обработка вложений, задержка и цена всего задания. Ни один из этих параметров не следует выводить из размера локальных весов.

Официальная HF-карточка этого ID помечена Apache-2.0, в отличие от старой Qwen-7B-Chat со специальным соглашением. Но лицензия весов не заменяет договор с облачным поставщиком и не сообщает, куда уйдут пользовательские документы. При собственном запуске команда управляет средой и оплатой оборудования; при стороннем API отдельно возникают его тариф, доступность и правила обработки данных. Карточка Qwen2 показывает пример Transformers и локального OpenAI-совместимого сервера, а не свидетельство доступного сегодня публичного endpoint Alibaba с тем же ID. Для небольшого текста можно сравнить Instruct с более поздней моделью на одинаковом наборе вопросов, фиксируя формат ответа, пропущенные факты и время. Для длинного документа добавьте проверку цитат и число повторных запросов. Исторические бенчмарки разработчика полезны как контекст эпохи, но без exact mapping и воспроизведения не становятся современным рейтингом GPT House.