Skip to content

[Feature Request] 希望提供分组模型管理和重命名功能 #333

@koast18

Description

@koast18

例行检查 / Checklist

  • 我已确认目前没有类似 issue (I have checked for similar issues)
  • 我已确认我已升级到最新版本 (I have updated to the latest version)
  • 我已完整查看过项目 README,已确定现有版本无法满足需求 (I have read the README and confirmed the current version does not meet my needs)
  • 我理解并愿意跟进此 issue,协助测试和提供反馈 (I am willing to follow up on this issue, assist with testing, and provide feedback)
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭 (I understand and agree to the above, and I understand that the maintainers have limited time, so issues that do not follow the rules may be ignored or closed directly)

功能描述 / Feature Description
为每个分组/聚合分组提供模型管理和重命名功能。

在密钥管理页面中:

普通分组可以增加一个拉取上游模型的按钮,点击后可以在下方生成一个表单,包含复选框(是否启用此渠道的这种模型),上游模型id,下游重命名id(如果无需重命名则留空),为了防止上有不提供模型接口,这个表单应保留手动填写修改的功能。

聚合分组则按来源分组显示被聚合的所有模型,同样提供复选框(启用与否),上游模型id,下游重命名id(无需改名则留空)。

应用场景 / Use Case
这个主要为了解决上游未及时维护时导致产生大量无效模型id的情况。同时,对于聚合分组,数个渠道可能同时提供同名的模型id,但并不是每个上游都能成功调用这个模型id。在这种情况下,通过聚合分组调用,会按照权重随机分配上游,导致反复重试,运气不好则会直接返回失败。

现在无法针对分组选择可用模型,无法通过配置解决上述情况。(虽然上述情况的根本原因是上游没有及时禁用失效的模型id导致的)

Metadata

Metadata

Assignees

Labels

enhancementNew feature or request

Projects

No projects

Milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions