确实需要个官方的分组聚合,目前也是采用内部嵌套的方法,但遇到了聚合多渠道类型时的问题

如果按照文档中的一般配置,openai渠道的没问题,但无法请求原生Gemini的:
gpt-load的聚合组配置:

Cherry studio 配置:

claude code router 配置:

会按照此流程一层层套成这样:
openai 渠道正确:
/proxy/all/v1/chat/completions --> http://localhost:4049/proxy/openai/v1/chat/completions --> /proxy/openai/v1/chat/completions --> https://api.openai.com/v1/chat/completions ✅
但 Gemini 渠道则错误:
/proxy/all/v1/chat/completions --> http://localhost:4049/proxy/gemini/v1beta/openai/v1/chat/completions --> /proxy/gemini/v1beta/openai/v1/chat/completions --> https://generativelanguage.googleapis.com/v1beta/openai/v1/chat/completions ❌

所以正确是这样配置:

Cherry studio 配置:

claude code router 配置:

openai 渠道的套娃:
/proxy/all/chat/completions --> http://localhost:4049/proxy/openai/v1/chat/completions --> /proxy/openai/v1/chat/completions --> https://api.openai.com/v1/chat/completions ✅

如果有人有类似多渠道类型的聚合需求可以参考下.
如果T佬会考虑加分组聚合功能,对多渠道类型的支持还需要考虑下 (¦3」∠).
再次感谢T佬,其实是试了一圈还是T佬的 gpt-load 好使👍

希望增加分组聚合功能 #92

Description