docker启动llama.cpp部署embedding模型，通过api调用接口，单个文本返回多向量是为什么 #11225

Unanswered

gangren-user asked this question in Q&A

gangren-user
Jan 14, 2025

仅仅是因为文本内容不一样，有一个嵌入两个向量，另一个嵌入3个向量，这是什么原因
@tobi @slaren

Replies: 1 comment

gangren-user
Jan 14, 2025
Author

非常抱歉，这个错误是我的启动命令存在问题，我的启动命令是按照大语言模型的命令启动的，并没有指定embedding参数启动，非常感谢咱这边团队的支持

0 replies

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment