[flash attn] flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol

에러

flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol

상황

flash attenion 2.7.1post1 이 설치되었는데, 관련 코드 실행시 저런 문제가 발생하더라.

해결법

내가 해결한 방법은 다른 버젼으로 설치해보는거

원래 2.7.1post1 버젼이라,

pip install ‘flash-attn<2.7.1’ 를 통해 2.7.0 버젼 설치했더니 해결됨 

하나씩 낮춰가면서 설치해보면 된다.

pip install ‘flash-attn<2.7.1’ -> pip install ‘flash-attn<2.7’ -> pip install ‘flash-attn<2.6’ 
이렇게 낮춰가다보면 해결됨.

 

 

원인