ssung_데이터 엔지니어링/9주차_Airflow

Airflow_(3)

ssungcohol 2023. 12. 13. 23:56

강의 들었는데.. 기억이 안남..

 

다시 듣고 정리하자

 

우선 기억 나는 것들만 정리!!

 


DAG에서 task 분리

  • task를 많이 만들면 전체 DAG가 실행되는데 오래 걸리고 스케줄러에 부하 발생
  • task를 적게 만들면 모듈화가 안되고 실패시 재실행 시간이 오래 걸림
  • 실패 시 재실행이 오래 걸리는 DAG의 경우에는 재실행이 쉽게 적절한 task로 나누는 것이 좋음

참고사항 - Window cmd 명령어

명령어 Window Linux, Mac os
파일 복사 copy cp
파일 이동 move mv
파일 목록보기 dir ls
파일 삭제 del, erase rm
이름 변경 move mv
디렉토리 이동 cd cd
현재 디렉토리 cd pwd
화명정리 cls clear
명령어 해석기 command.com sh, csh, bash
파일 내용 표시 type cat
도움말, 메뉴얼 help man
종료 exit exit
시간 표시 time time
환경변수 표시 set set, env
버전 정보 ver uname -a
사용자 정보 출력 finger finger
ping ping ping
라우팅 테이블 route print route -n
네임서버 쿼리 nslookup nslookup
telnet telnet telnet
ftp ftp ftp
파일 문자열 찾기 find find
2개 파일 비교 fc, comp diff
라인 에디터 edlin de
문자열, 라인별 정렬 sort sort
하위 디렉토리 복사 xcopy cp -r
파일 속성 표기 attrib lsattr
현재경로 저장 후 이동 pushd pushd
파일 감추기 ATTRIB +h or -h mv file .file
압축 pkzip tar, zip
프로세스 정보 taskmgr ps, top
프로세스 종료 tskill kill, killall
시스템 종료 shutdown shutdown, halt, init 0
ip표시 ipconfig ifconifg
연결된 ip 표시 netstat -ano netstat
디스크 검사 chkdsk fsck
free memory보기 mem free, top
파일 인쇄 print lpr

xcopy 사용하기

  • xcopy 사용 예시
    • xcopy "복사할 대상 폴더 위치" "백업될 폴더 위치" /s /h /e /d /y
       - /s : 복사할 폴더 내 모든 하위폴더 포함
       - /h : 숨김파일, 시스템파일 포함
       - /e : 비어 있는 폴더 포함
       - /d : 복사를 하되 날짜기록에 변경사항이 없으면 건너뛰고 복사
       - /y : 파일 엎어쓰기 여부 묻지 않고 복사
728x90

'ssung_데이터 엔지니어링 > 9주차_Airflow' 카테고리의 다른 글

Airflow_(4)  (0) 2023.12.14
Airflow_(2)  (0) 2023.12.12
Airflow_(1)  (0) 2023.12.12