728x90

😆 Big Data/- Docker 4

[dockerfile] pyspark 파이썬 ver 설정하기

Pyspark의 파이썬 ver 설정하기 나의 파이썬의 버젼은 3.8.5로 설정하였지만, pyspark을 실행하면.......... ubuntu 18.04에서 지원하는 3.6.9 버젼으로 실행된다! 🤣 이유는 pyspark에서의 파이썬 ver을 설정하지 않았기 때문이다! 🪄 그래서 python 기본 ver값 설정을 해보자! 🪄 dockerfile에 한 줄만 추가해주면 된다. # Pysaprk 파이썬 기본값 설정 환경변수 추가해주기 ENV PYSPARK_PYTHON=python 위 코드식을 해석해보자면, python -V 명령어를 쳤을 때 나오는 파이썬ver.을 pyspark 파이썬 기본ver. '동일'하게 설정하겠다는 뜻이다. 쨔잔! 끝! 혹시나... ModuleNotFoundError: No module..

[dockerfile] ModuleNotFoundError: No module named 'py4j' & pyspark 환경변수 작성하기

py4j 오류 해결하기 먼저 -!! 🍭1) 우분투 18.04에서 기본 제공하는 python ver 3.6.9 말고 파이썬 기본값 ver을 3.8.5로 설정하였다! ( 즉, python -V 으로 확인했을 때 3.8.5로 나오는 걸 말한다!) * python 기본값 ver설정 방법이 궁금하다면 아래글 참고해주세요~ 2022.05.22 - [😆 Big Data/- Docker] - [Dockerfile] 우분투 18.04 & 파이썬 3.8 설치 & python 기본값 변경하기 🍭2) pyspark 파이썬 기본ver은 python과 같은 ver으로 설정했다, ModuleNotFoundError: No module named 'py4j 3.8.5로 설정해줬지만....... 아래와 같은 오류가!!!!! 뜨아.....

[docker command] docker 이미지 / 컨테이너 조건 삭제 명령어

dockerhub 이미지를 사용하지않고, 직접 dockerfile을 만들고 있다면.... 아래 명령어가 유용할 거다! 1. docker image * 으로 되어있는 이미지 삭제 docker rmi -f $(docker images -f "dangling=true" -q) 2. docker container * 랜덤이미지로 생성된 도커컨테이너 삭제 - status가 exited인 경우 docker rm $(docker ps -a -q -f status=exited) - status가 created인 경우 docker rm $(docker ps -a -q -f status=created)

[Dockerfile] 우분투 18.04 & 파이썬 3.8 설치 & python 기본값 변경하기

우분투 파이썬 버젼 설치 & 변경하기 👉들어가기 전 ! Ubuntu 18.04 설치된 환경에서 파이썬 ver. & 파이썬 설치 위치 & 설치된 파이썬 버젼 모두 확인하려면?? # 파이썬 version 확인하기 python -V # 파이썬 설치 위치 확인하기 which python # 설치되어있는 파이썬 확인하기 # 위 코드식인 which python을 통해 설치경로는 /usr/bin 일테니, 아래 코드식으로 확인가능! ls /usr/bin/ | grep python 우분투에서 기본 지원하는 파이썬 기본값은 3.6.9로 되어있다. 그래서 설치된 파이썬을 확인하게 되면 아래와 같을 거다 👉설치해보자! * python3.8.5로 설치하는 경우 # 1. wget으로 파이썬3.8.5압축파일 다운 wget http..

728x90