- 解决报错:ImportError: /usr/local/lib/python3.11/dist-packages/vllm/_C.abi3.so: undefined symbol: _ZN3c106ivalue14ConstantString6createENSt7__cxx1112basic_stringIcSt11char_traitsIcESaIcEEE
- 这个错误本质是 vLLM 的 C++/CUDA 扩展(vllm/_C.abi3.so)与当前 PyTorch/CUDA 编译环境不兼容,导致运行时报
- 如果你是 Python 3.11(非常关键),vLLM 从 0.4 开始才全面支持 Py3.11
- 请务必升级vllm:
pip install--upgrade--force-reinstall vllm