끄적/Airflow 2

2. Airflow 실습

1. 설정설치가 끝났다면 이제 설정을 건드려보자. 설정 파일 위치:Airflow 설정 파일은 우리가 작업햇떤 폴더에 있을거다. 이름은 airflow.cfg이다.이 파일이 Airflow의 설정을 제어하는 파일이다.DAG 폴더 경로 확인:airflow.cfg를 열어 dag_folder 항목을 확인하자.이전에 export AIRFLOW_HOME  명령어로 경로를 지정했다면, 해당 경로에 맞게 설정되어 있을 것이다.설정 항목 변경load_examples 항목을 살펴보자.기본 값은 True로 설정되어 있다. 이는 Airflow 페이지에 Example DAG들을 표시하게 되는데 지금은 실습이므로 다 우선 False로 해두자.dag_dir_list_interval 항목을 살펴보자.이건 새로운 파일이 dag 디렉토리에..

끄적/Airflow 2024.12.11

1. Airflow 시작

오늘은 Airflow에 대한 개념과 실습에 대한 강의를 들었다.개념에 대한 것은 전반적인 지식과 작동 원리 등에 대해 알려줬다.실습에 경우 우리가 직접 Airflow를 다루며 익숙해지는 시간을 가졌다. 1. 환경 세팅(1) 경로 mkdir '폴더이름'cd '폴더이름'위 코드들을 통해 작업 위치를 정해두자. (2) 가상환경우선 Airflow를 설치하고 사용하기 위해 가상환경을 만들어야 한다.python -m venv .venv를 통해 가상환경을 만들고 source .venv/bin/activate를 통해 가상환경을 실행하자. (3) 설치 가상환경에서 Airflow를 설치하기 위해 다음의 과정을 따르자.pip3 install pip --upgrade로 업그레이드 하고 아래를 입력하자. AIRFLOW_VERS..

끄적/Airflow 2024.12.11