Update llama-hparams.h

danielhanchen · danielhanchen · commit 97b117ca4d75 · 2025-07-13T01:03:05.000-07:00
diff --git a/src/llama-hparams.h b/src/llama-hparams.h
@@ -6,7 +6,7 @@
 
 // bump if necessary
 #define LLAMA_MAX_LAYERS  512
-#define LLAMA_MAX_EXPERTS 256  // DeepSeekV3
+#define LLAMA_MAX_EXPERTS 384  // DeepSeekV3=256 Kimi-K2=384
 
 enum llama_expert_gating_func_type {
     LLAMA_EXPERT_GATING_FUNC_TYPE_NONE    = 0,
