Kimi Linear 48B A3B Instruct: диалоговая версия архитектуры KDA

Модель сочетает Kimi Delta Attention и глобальное MLA в пропорции 3:1. Карточка заявляет 48B параметров всего и 3B активных, обученные варианты Base и Instruct и фокус на эффективности длинного контекста. В отличие от Base этот HF ID представлен как версия для диалога и выполнения инструкций. Это самостоятельная исследовательская линия, а не сокращённое название Kimi K2 или K3; наличие общего бренда не делает веса, токенизаторы и режимы API взаимозаменяемыми.

Карточка не даёт отдельной верификации русскоязычной точности. Проверьте ответы по русским документам на извлечение фактов с цитатами, на сохранение чисел и структуру длинного вывода. При большом входе измеряйте, что происходит в средней части текста, а не только в первых страницах. Сопоставляйте качество с моделью, которую реально можете обслуживать на той же инфраструктуре.

Подходящие сценарии: пилот самостоятельного длинноконтекстного чата; анализ документов с контролем цитат; измерение эффективности KDA; сравнение с Base после post-training.

Этот checkpoint подходит команде, которая хочет исследовать KDA и иметь готовую instruct-версию для текстовых тестов. Для рабочего ассистента сперва проверьте поведение на коротком запросе, затем постепенно увеличивайте длину и фиксируйте точность, задержку и потребление памяти. Если задача решается на меньшем окне, миллионный паспортный предел может оказаться несущественным по сравнению с простотой обслуживания другой модели.

Пример официальной карточки требует совместимого PyTorch, fla-core и trust_remote_code; перед эксплуатацией закрепите ревизии и проверьте исполняемый код. Команда vLLM задаёт max-model-len 1048576 для локального endpoint, но это не показатель каждого хостинга. Длинный контекст повышает вычислительные требования и не гарантирует точность извлечения. Авторские оценки сокращения KV-cache и ускорения получены при заданных условиях и не являются контрактом задержки.