[Error] SubProcess ended with return code: 4294967295

I tensorflow/core/platform/windows/subprocess.cc:308] SubProcess ended with return code: 4294967295

나의 사용 환경

• RTX 3060
• TensorFlow 2.4.0
• cuDNN 8.0
• CUDA 11.0

 

발생 이유는 잘 모르겠고 해결법으로 바로 가겠습니다.

 

 

 

해결법

 

1. CUDA 경로 접속

 

본인의 CUDA 경로에 들어가세요(보통은 저와 같습니다.)

v11.1 폴더에서 파일 하나를 빼서 제가 사용 중인 v11.0에 넣을 겁니다.

즉, cuda 11.1 버전을 다운받지 않으셨다면 받아오셔야겠죠?

(https://developer.nvidia.com/cuda-11.1.0-download-archive)

 

 

 

 

 

2. v11.1/bin 폴더에 들어가서 ptxas.exe 복사

 

 

 

 

3. v11.0/bin 폴더에 방금 복사한 ptxas.exe 붙여넣기

보이시나요? 저같은 경우에는 기존 v11.0에 있던 ptxas.exe를 나중에 써야할지도

모르는 상황에 대비하여 ptxas_11.0.exe로 파일명을 바꿔서 두었습니다.

 

 

결론적으로 v11.1/bin의 ptxas.exe 파일을 v11.0/bin에 붙여넣기한 것이죠.