现在一些主流的AI客户端应用(比如Chatbox)都允许用户使用自定义AI服务,也就是填入自己的API接入点和key,以此统一支出,或者降低成本。我希望这个网站也可以做到这一点。我相信网站收取的费用相比直接调用模型并不会高出许多,但是我更想要一个高度灵活的模型切换机制。
如果渐构对于LLM的调用没有做出自己的大规模修改,并且符合类似openai等的调用标准的话,这个功能的实现应当比较简单。
这是我第一次来到这个网站,也是第一次在互联网上公开提出这么长的建议。希望渐构能够做得越来越好,服务更多人!
1 个赞
可以的,但是优先级不高,我们就几个人,现在只能等重要的事先忙完了再来搞这些。
1 个赞