fix llama_set_rope_freq_base

cebtenzzre · cebtenzzre · commit 44ffe632b8a7 · 2023-09-30T22:20:10.000-04:00
diff --git a/llama.cpp b/llama.cpp
@@ -7549,8 +7549,8 @@ int llama_token_to_piece(const struct llama_model * model, llama_token token, ch
     return 0;
 }
 
-void llama_set_rope_freq_base(struct llama_model * model, float freq) {
-    model->hparams.rope_freq_base = freq;
+void llama_set_rope_freq_base(struct llama_context * ctx, float freq) {
+    ctx->cparams.rope_freq_base = freq;
 }
 
 struct llama_timings llama_get_timings(struct llama_context * ctx) {
diff --git a/llama.h b/llama.h
@@ -518,8 +518,8 @@ extern "C" {
                                   char * buf,
                                   int    length);
 
-    // Sets rope_freq_base of llama model
-    LLAMA_API void llama_set_rope_freq_base(struct llama_model * model, float freq);
+    // Sets rope_freq_base of llama context
+    LLAMA_API void llama_set_rope_freq_base(struct llama_context * ctx, float freq);
 
     //
     // Grammar

Original file line number	Diff line number	Diff line change
`@@ -7549,8 +7549,8 @@ int llama_token_to_piece(const struct llama_model * model, llama_token token, ch`
`7549`	`7549`	`return 0;`
`7550`	`7550`	`}`
`7551`	`7551`
`7552`		`-void llama_set_rope_freq_base(struct llama_model * model, float freq) {`
`7553`		`- model->hparams.rope_freq_base = freq;`
	`7552`	`+void llama_set_rope_freq_base(struct llama_context * ctx, float freq) {`
	`7553`	`+ ctx->cparams.rope_freq_base = freq;`
`7554`	`7554`	`}`
`7555`	`7555`
`7556`	`7556`	`struct llama_timings llama_get_timings(struct llama_context * ctx) {`