add pip install cutlass version check (#6393)

fix this issue: https://github.com/microsoft/DeepSpeed/issues/6006

cc. @tjruwase
This commit is contained in:
Guanhua Wang 2024-08-22 10:18:17 -07:00 коммит произвёл GitHub
Родитель 0f0f231e8a
Коммит 51da191eb5
Не найден ключ, соответствующий данной подписи
Идентификатор ключа GPG: B5690EEEBB952194
1 изменённых файлов: 18 добавлений и 2 удалений

Просмотреть файл

@ -52,11 +52,27 @@ class EvoformerAttnBuilder(CUDAOpBuilder):
if verbose:
self.warning("Please specify the CUTLASS repo directory as environment variable $CUTLASS_PATH")
return False
with open(f'{self.cutlass_path}/CHANGELOG.md', 'r') as f:
if '3.1.0' not in f.read():
if os.path.exists(f'{self.cutlass_path}/CHANGELOG.md'):
with open(f'{self.cutlass_path}/CHANGELOG.md', 'r') as f:
if '3.1.0' not in f.read():
if verbose:
self.warning("Please use CUTLASS version >= 3.1.0")
return False
else:
# pip install nvidia-cutlass package
try:
import cutlass
except ImportError:
if verbose:
self.warning("Please pip install nvidia-cutlass if trying to pre-compile kernels")
return False
cutlass_major, cutlass_minor = cutlass.__version__.split('.')[:2]
cutlass_compatible = (int(cutlass_major) >= 3 and int(cutlass_minor) >= 1)
if not cutlass_compatible:
if verbose:
self.warning("Please use CUTLASS version >= 3.1.0")
return False
cuda_okay = True
if not self.is_rocm_pytorch() and torch.cuda.is_available(): #ignore-cuda
sys_cuda_major, _ = installed_cuda_version()