-
Notifications
You must be signed in to change notification settings - Fork 9.7k
Open
Labels
Description
前置确认
- 我确认我运行的是最新版本的代码,并且安装了所需的依赖,在FAQS中也未找到类似问题。
⚠️ 搜索issues中是否已存在类似问题
- 我已经搜索过issues和disscussions,没有跟我遇到的问题相关的issue
操作系统类型?
Linux
使用的chatgpt-on-wechat版本是?
Latest Release
运行的channel类型是?
web
复现步骤 🕹
- Docker compose部署。
- vllm中部署了deepseek,model_name直接叫“1”。
- 将“1”添加到compose文件的
MODEL参数,compose运行后,网页输入出现如下日志的错误
。
File "/app/bridge/bridge.py", line 40, in __init__
if model_type and (model_type.startswith("qwen") or model_type.startswith("qwq") or model_type.startswith("qvq")):
AttributeError: 'int' object has no attribute 'startswith'
问题描述 😯
貌似是能够支持vllm的openai通用接口,但model_name必须按照const.py中的来吗?如何支持自定义名称。
Reactions are currently unavailable