😆 Big Data/- Docker

[dockerfile] pyspark 파이썬 ver 설정하기

또방91 2022. 5. 23. 22:39
728x90

 

 

 

                                               Pyspark의 파이썬 ver 설정하기                                          

 

 

 

나의 파이썬의 버젼은 3.8.5로 설정하였지만,

pyspark을 실행하면.......... ubuntu 18.04에서 지원하는 3.6.9 버젼으로 실행된다! 🤣

 

이유는 pyspark에서의 파이썬 ver을 설정하지 않았기 때문이다!

 

 

 

🪄 그래서 python 기본 ver값 설정을 해보자!

🪄 dockerfile에 한 줄만 추가해주면 된다.

# Pysaprk 파이썬 기본값 설정 환경변수 추가해주기

ENV PYSPARK_PYTHON=python

 

위 코드식을 해석해보자면,

 

python -V 명령어를 쳤을 때 나오는 파이썬ver.을 

pyspark 파이썬 기본ver.   '동일'하게 설정하겠다는 뜻이다.

 

 

 

 

 

 

 

 

 쨔잔! 끝!  

혹시나... ModuleNotFoundError: No module named 'py4j

요런 에러가 생겼다?? 그럼 아래 글을 눌러보자!

2022.05.23 - [😆 Big Data/- Docker] - [dockerfile] ModuleNotFoundError: No module named 'py4j' & pyspark 환경변수 작성하기

728x90