linux文件合并、去重、拆分
一、两个文件的交集、并集(前提条件:每个文件中不得有重复行)
1. 取出两个文件的并集(重复的行只保留一份)
cat file1 file2 | sort | uniq > file3
2. 取出两个文件的交集(只留下同时存在于两个文件中的文件)
cat file1 file2 | sort | uniq -d > file3
3. 删除交集,留下其他的行
cat file1 file2 | sort | uniq -u > file3
二、两个文件合并
1. 一个文件在上,一个文件在下
cat file1 file2 > file3
2. 一个文件在左,一个文件在右
paste file1 file2 > file3
三、一个文件去掉重复的行
1. 重复的多行记为一行
sort file |uniq
2. 重复的行全部去掉
sort file |uniq -u
四、文件拆分
1.split 命令
使用方式:split [OPTION] [INPUT [PREFIX]
OPTION 有
- l<行数>或-l<行数> 指定每多少行就要切成一个小文件。
-b<字节> 指定每多少字就要切成一个小文件。支持单位:m,k
-C<字节> 与-b参数类似,但切割时尽量维持每行的完整性。
如:
a>按照 指定分割后文件行数
对于文本文件,可以通过指定分割后文件的行数来进行文件分割。
命令:split -l 300 large_file.log new_file_prefi
b>按照 指定分割后文件大小
对于文本文件,可以通过指定分割后文件的行数来进行文件分割。
命令:split -l 300 large_file.log new_file_prefix
更多推荐
所有评论(0)