Deepseek官方API并发限流问题
在代码里面通过OkHttp3构建sse请求调用deepseek的api，只要是同一个httpClient，deepseek只会给一个并发，并发调用api，发现只有一个可以正常响应回复，其余请求的event频率很低且内容为空，只有一个请求结束后，另一个请求才会收到实质性的响应。排查了半天，网上也查不到，只在贴吧看到类似的内容，发这个记录一下。后续使用阿里云百炼平台大模型。
·
在代码里面通过OkHttp3构建sse请求调用deepseek官方的api，疑似只要是同一个httpClient，deepseek只会给一个并发，并发调用api，只有一个可以正常响应回复，其余请求的event频率很低且内容为空，只有一个请求结束后，另一个请求才会收到实质性的响应。
排查了半天，网上也查不到，发这个记录一下。后续使用阿里云百炼平台大模型。
有“AI”的1024 = 2048，欢迎大家加入2048 AI社区
更多推荐
3
0- 0
已为社区贡献1条内容
所有评论(0)