pymilvus.exceptions.MilvusException: <MilvusException: (code=8, message=Retry run out of 75 retry times, message=request is rejected by grpc RateLimiter middleware, please retry later: rate limit exceeded[rate=0.1])>

[anliwen]

pymilvus.exceptions.MilvusException: <MilvusException: (code=8, message=Retry run out of 75 retry times, message=request is rejected by grpc RateLimiter middleware, please retry later: rate limit exceeded[rate=0.1])>
请教下这个错误应该怎么解决呢？

[yhmo]

多半是你调用 flush() 过于频繁。
错误的方式： insert() --> flush() ---> insert() ----> flush() ---> insert() ----> flush() .....
正确的方式： insert() --> insert() ---> insert ---> insert() --> insert() ---> insert .... （没必要调用flush()， milvus自己内部会在合适的时候flush）

[anliwen]

我研究研究，我是基于langchain + 协程进行写入的，如果使用多线程就没问题，我再研究一下，谢谢回答

[yhmo]

较早的langchain版本里(大约一年多以前)，add_documents之后会调用milvus的flush接口，较新的版本里不调用flush接口。可能你用的langchain版本较低。