Win/Linux安装flash attention2
1.Win 安装Flash_attn
(1)第一步:下载flash_attn-xxx.whl 文件
在
1)地址1:HuggingFace 官网 Flash-attn页面
2)地址2:Github 地址
下载对应cuda、torch、python版本的whl文件;
(2)第二步:安装whl文件
Win+R, 打开cmd,进入下载的whl文件夹下:
pip install flash_attn-xxx.whl
(3)第三步:验证flash_attn 安装
pip list | findstr flash_attn
出现版本号,说明安装成功。
2. Linux 安装Flash_attn
(1)下载flash_attn_xxx.whl文件
在 Github 地址下载对应版本的whl文件
第二、三步和Windows 同理。