news 2026/7/2 23:49:51

Linux服务器安装flash_attn

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Linux服务器安装flash_attn

方法一:直接尝试pip:

pipinstallflash_attn

可能出现报错:

pip install flash-attn -i https://pypi.tuna.tsinghua.edu.cn/simple Looking in indexes: https://pypi.tuna.tsinghua.edu.cn/simple Collecting flash-attn Using cached https://pypi.tuna.tsinghua.edu.cn/packages/3b/b2/8d76c41ad7974ee264754709c22963447f7f8134613fd9ce80984ed0dab7/flash_attn-2.8.3.tar.gz (8.4 MB) Installing build dependencies ... done Getting requirements to build wheel ... error error: subprocess-exited-with-error × Getting requirements to build wheel did not run successfully. │ exit code: 1 ╰─> [20 lines of output] Traceback (most recent call last): File "/home/ysr/.conda/envs/wan/lib/python3.11/site-packages/pip/_vendor/pyproject_hooks/_in_process/_in_process.py", line 389, in <module> main() File "/home/ysr/.conda/envs/wan/lib/python3.11/site-packages/pip/_vendor/pyproject_hooks/_in_process/_in_process.py", line 373, in main json_out["return_val"] = hook(**hook_input["kwargs"]) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/home/ysr/.conda/envs/wan/lib/python3.11/site-packages/pip/_vendor/pyproject_hooks/_in_process/_in_process.py", line 143, in get_requires_for_build_wheel return hook(config_settings) ^^^^^^^^^^^^^^^^^^^^^ File "/tmp/pip-build-env-7rn47hok/overlay/lib/python3.11/site-packages/setuptools/build_meta.py", line 331, in get_requires_for_build_wheel return self._get_build_requires(config_settings, requirements=[]) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/tmp/pip-build-env-7rn47hok/overlay/lib/python3.11/site-packages/setuptools/build_meta.py", line 301, in _get_build_requires self.run_setup() File "/tmp/pip-build-env-7rn47hok/overlay/lib/python3.11/site-packages/setuptools/build_meta.py", line 512, in run_setup super().run_setup(setup_script=setup_script) File "/tmp/pip-build-env-7rn47hok/overlay/lib/python3.11/site-packages/setuptools/build_meta.py", line 317, in run_setup exec(code, locals()) File "<string>", line 22, in <module> ModuleNotFoundError: No module named 'torch' [end of output] note: This error originates from a subprocess, and is likely not a problem with pip. ERROR: Failed to build 'flash-attn' when getting requirements to build wheel

这是一个非常典型的 Python 打包和构建错误,尤其是在尝试从源代码或使用 PyPI 缓存的源码包进行安装时:

ModuleNotFoundError: No module named 'torch'

错误原因分析

pip尝试安装flash-attn时,它会经历几个步骤,其中一个步骤是获取构建 Wheel 所需的依赖项 (Getting requirements to build wheel)

  1. flash-attnsetup.py(或类似的构建配置)在运行时需要导入torch来检查环境、确定 CUDA 架构等信息。
  2. 在构建环境(pip-build-env-*)内部,PyTorch 模块没有被找到,导致ModuleNotFoundError

为什么 PyTorch 已经安装了,构建环境却找不到它?

这是因为pip默认会在一个隔离的临时环境中运行构建脚本(通过pyproject.toml文件指定的要求),以确保构建的纯净性。您的主环境中的 PyTorch (虽然已安装) 并不会自动复制到这个临时的构建环境。

解决方案:禁用构建隔离

解决这个问题最简单、最直接的方法就是禁用pip的构建隔离。这将允许构建脚本直接访问您当前虚拟环境(wan)中已经安装的torch模块。

请尝试使用以下命令进行安装:

pipinstallflash-attn --no-build-isolation -i https://pypi.tuna.tsinghua.edu.cn/simple
  • --no-build-isolation: 禁用构建隔离,允许flash-attn的构建脚本访问您当前环境中的torch模块。

然后可能出现报错二:

(类似说没有找到cuda的,具体报错我的记录丢失了,解决方法是export CUDA_HOME=xxx,其中xxx类似于/一堆前缀路径/cuda-12.1


错误三:

网络问题
因为服务器可能连不上外网或者其他什么网络问题,如果出现这种情况,最好的解决方法就是自己到github仓库中找到对应版本的whl,然后手动安装。

Building wheel for flash-attn (pyproject.toml) ... error error: subprocess-exited-with-error × Building wheel for flash-attn (pyproject.toml) did not run successfully. │ exit code: 1 ╰─> [22 lines of output] No CUDA runtime is found, using CUDA_HOME='/opt/Software/cuda/12.9.1' /home/ysr/.conda/envs/wan/lib/python3.11/site-packages/setuptools/dist.py:759: SetuptoolsDeprecationWarning: License classifiers are deprecated. !! ******************************************************************************** Please consider removing the following classifiers in favor of a SPDX license expression: License :: OSI Approved :: BSD License See https://packaging.python.org/en/latest/guides/writing-pyproject-toml/#license for details. ******************************************************************************** !! self._finalize_license_expression() torch.__version__ = 2.5.1+cu121 running bdist_wheel Guessing wheel URL: https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.3/flash_attn-2.8.3+cu12torch2.5cxx11abiFALSE-cp311-cp311-linux_x86_64.whl error: Remote end closed connection without response [end of output] note: This error originates from a subprocess, and is likely not a problem with pip. ERROR: Failed building wheel for flash-attn Failed to build flash-attn error: failed-wheel-build-for-install × Failed to build installable wheels for some pyproject.toml based projects ╰─> flash-attn

在报错里其实已经给出了你可能匹配的whl路径了:
Guessing wheel URL: https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.3/flash_attn-2.8.3+cu12torch2.5cxx11abiFALSE-cp311-cp311-linux_x86_64.whl

直接去网站下载,然后传到服务器上,手动安装:

pipinstallflash_attn-2.8.3+cu12torch2.5cxx11abiFALSE-cp311-cp311-linux_x86_64.whl
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/30 19:22:52

1分钟解锁30G空间!全网最简单安全的C盘清理方法 新手也放心用

电脑用久了&#xff0c;不少人都会遇到同一个烦恼&#xff1a;C 盘红色预警不断&#xff0c;存储空间告急&#xff0c;可看着满屏的系统文件&#xff0c;又怕一不小心删错东西导致电脑崩溃&#xff0c;只能眼睁睁看着电脑变慢、卡顿。其实&#xff0c;清理 C 盘根本不用 “畏首…

作者头像 李华
网站建设 2026/6/30 22:12:13

spring中el表达式安全和扩展

0. 背景 Spring的核心技术SpEL底层采用反射的方式获取对象属性、调用方法、创建对象等。如果不加以限制有非常大的安全漏洞。 如果访问权限过大,系统接收的字符串,很容易就执行恶意程序.比如在上一章 Spring使用el表达式 第一小节中执行的表达式T(Runtime).getRuntime().exec(…

作者头像 李华
网站建设 2026/6/30 21:22:08

四种高效的Obsidian标签体系构建,实战演示教程附模板

笔记的分类与标签的区别&#xff0c;标签应该怎么高效的使用&#xff1f;怎么合理的定义标签结构&#xff1f;结合四种案例构建自己的标签体系&#xff0c;结尾附带几套常用的标签结构。此方法不局限于Obsidian&#xff0c;同样适用于Notion&#xff0c;SiYuan等其他的笔记平台…

作者头像 李华
网站建设 2026/6/30 21:38:55

毕设分享 大数据分析:电商产品评论数据情感分析

文章目录1 简介数据分析目的数据预处理评论去重数据清洗分词、词性标注、去除停用词提取含名词的评论绘制词云词典匹配评论数据情感倾向分析修正情感倾向LinearSVC模型预测情感1 简介 Hi&#xff0c;大家好&#xff0c;这里是丹成学长&#xff0c;今天向大家介绍一个大数据项目…

作者头像 李华
网站建设 2026/7/2 23:40:55

办公系统|基于Java+ vue办公管理系统(源码+数据库+文档)

办公管理 目录 基于springboot vue办公管理系统 一、前言 二、系统功能演示 详细视频演示 三、技术选型 四、其他项目参考 五、代码参考 六、测试参考 七、最新计算机毕设选题推荐 八、源码获取&#xff1a; 基于springboot vue办公管理系统 一、前言 博主介绍&am…

作者头像 李华
网站建设 2026/7/1 23:10:10

小区门禁系统|基于Java+ vue小区人脸识别门禁系统(源码+数据库+文档)

小区人脸识别门禁 目录 基于springboot vue办公管理系统 一、前言 二、系统功能演示 详细视频演示 三、技术选型 四、其他项目参考 五、代码参考 六、测试参考 七、最新计算机毕设选题推荐 八、源码获取&#xff1a; 基于springboot vue小区人脸识别门禁系统 一、…

作者头像 李华