[请益] windows安装vllm问题

楼主: oel51 (QQ~~)   2025-01-31 01:25:14
各位前辈大大好,最近有想要研究vllm,作业系统是Windows,python版本3.9,有建置ubuntu
也有安装pip install vllm,pyOpenSSL,pytorch,cryptography,certifi
安装步骤以及顺序是参照下方网址的
https://docs.vllm.ai/en/latest/getting_started/quickstart.html
但是在在执行范例程式python opt-125m_test.py时,都会出现
[__init__.py:60] No plugins found.
如图 :https://imgur.com/a/hB7twV6
最后一行的错误的讯息如下:
requests.exceptions.SSLError: HTTPSConnectionPool(host='www.modelscope.cn',
port=443): Max retries exceeded with url:
/api/v1/models/facebook/opt-125m/revisions (Caused by
SSLError(SSLCertVerificationError(1, '[SSL: CERTIFICATE_VERIFY_FAILED]
certificate verify failed: self-signed certificate in certificate chain
(_ssl.c:1147)')))
恳请大大指点迷津了,有问过网上/chatGPT但结果来是卡在这边
也有尝试只用本地端,但是有跑出额外的问题QQ
所以还是想尝试看看原本线上版的,因为我用同样方式在我私人桌机安装是没有问题的
但是在公司笔电上就是不能QQ“
拜托了,感谢

Links booklink

Contact Us: admin [ a t ] ucptt.com