1.linux文件操作

cat test.txt | head -n 100 查看开始100行

cat finalout.txt | head -n 100 | cut -d , -f 2   安装，分割各行，取第2个位置的数据

cat test.txt |sed 's/""//g' 查看下效果

cat finalout.txt | head -n 10 | cut -d , -f 2 按，切割

cat part_name_tmp.txt | cut -d \" -f 2 >part_name.txt 按“切割

cut -b 3 cut_ch.txt   按字节切割

 

cat test.txt|sed -i 's/""//g' 删除引号。    ?????有问题

sed -i 's/"//g' part_name.txt       ?????有问题

 

 

2.linux文件去重

 (1)两个文件的交集，并集

前提条件：每个文件中不得有重复行

1. 取出两个文件的并集(重复的行只保留一份)

cat file1 file2 | sort | uniq > file3

2. 取出两个文件的交集(只留下同时存在于两个文件中的文件)

cat file1 file2 | sort | uniq -d > file3

3. 删除交集，留下其他的行

cat file1 file2 | sort | uniq -u > file3

(2)两个文件合并

一个文件在上，一个文件在下

cat file1 file2 > file3

一个文件在左，一个文件在右

paste file1 file2 > file3

(3)一个文件去掉重复的行

sort file |uniq

注意：重复的多行记为一行，也就是说这些重复的行还在，只是全部省略为一行！

sort file |uniq –u

上面的命令可以把重复的行全部去掉，也就是文件中的非重复行！