Kimi K2 0905

Что умеет Kimi K2 0905

Kimi K2 0905 — это сентябрьское обновление Kimi K2 0711. Это крупномасштабная языковая модель Mixture-of-Experts (MoE), разработанная Moonshot AI, с общим количеством параметров в 1 триллион и 32 миллиардами активных параметров на каждый прямой проход. Она поддерживает инференс с длинным контекстом до 256k токенов, что расширено по сравнению с предыдущими 128k. Это обновление улучшает агентное кодирование за счет более высокой точности и лучшей обобщаемости в различных scaffold, а также улучшает фронтенд-кодирование за счет более эстетичных и функциональных результатов для веба, 3D и связанных задач. Kimi K2 оптимизирована для агентных возможностей, включая расширенное использование инструментов, рассуждения и синтез кода. Она превосходно показывает себя в бенчмарках по кодированию (LiveCodeBench, SWE-bench), рассуждениям (ZebraLogic, GPQA) и использованию инструментов (Tau2, AceBench). Модель обучена с использованием нового стека, включающего оптимизатор MuonClip для стабильного крупномасштабного обучения MoE.