-
[Ubuntu] csv 파일 데이터 자르기(용량 큰 파일 나누어 저장)OS/Linux 2022. 9. 1. 13:57
csv 파일을 읽어 db에 입력해야하는데,
csv 파일 용량이 너무 커서 실행하면 cpu 사용초과로 서버가 다운되어 버리는 현상이 있었다...
aws 프리티어... 무료여서 좋지만 사양이 너무 안타깝다..
그래서 파일을 잘라서 실행하는 방법을 찾아보고 적용하니 정상적으로 실행되었다.
명령어
$ split -l (자를 줄 수) (대용량 파일명) (결과 파일명)
실행 결과
(결과 파일 명) + aa ~ 으로 파일이 분할되어 나온다.
참고
https://ourhistory160109.tistory.com/40
CSV 파일 분할하기
컬럼 갯수에 따라 다르겠지만 백만건 이상인 경우 CSV 파일이 완전히 열리지 않아 분할이 필요한 경우 참고 1. split 명령어 활용 bash shell에 내장되어 있는 split 명령어 이용 (Mac의 경우 기본터미널
ourhistory160109.tistory.com
'OS > Linux' 카테고리의 다른 글
[Linux:CentOS] sudo 명령어 권한을 주는 방법 (0) 2024.10.18 [Ubuntu] 32 bit 인지 64 bit 인지 확인하는 명령어 (0) 2021.01.16 [Ubuntu] 설정 (0) 2021.01.12 [Ubuntu] 파일 또는 디렉토리 삭제 명령어 (0) 2021.01.01 [Ubuntu] C#) monodevelop로 다른 클래스를 참조(using) 하려면? (0) 2020.10.29