linux 按照第一列去重,shell腳本，awk 根據文件某列去重並且統計該列頻次。

a文件為1a2a3a4s5s6d1.怎么把a文件變為1 a 3

4 s 2

6 d 1

2.怎么把a文件變為1 a 3

2 a 3

3 a 3

4 s 2

5 s 2

6 d 1

解題方法如下：

解題思路

[root@localhost study]# awk 'NR==FNR{a[$2]++}NR!=FNR&&++b[$2]==1{print $1,$2,a[$2]}' a a

1 a 3

4 s 2

6 d 1

NR=FNR處理第一個文件a----->  {a[$2]++}

a[$2]++相當於a[$2]=a[$2]+1

a[a]=a[a]+1=0+1=1

a[a]=a[a]+1=1+1=2

a[a]=a[a]+1=2+1=3

a[s]=a[s]+1=0+1=1

a[s]=a[s]+1=1+1=2

a[d]=a[d]+1=0+1=1

這里只取值，不輸出

NR!=FNR&&++b[$2]==1{print $1,$2,a[$2]}

當NR!=FNR處理第二個文件 a

++b[$2]==1      ++b表示先自增，后賦值。就是第二列是重復的值，執行一次

第一行b[a]=0  ++b[a]---->結果b[a]=1,然后在判斷是否等於1，等於1條件成立，執行后面的結果

輸出 print $1,$2,a[$2]------>$1=1,$2=a,a[$2]=a[a]=3 (1 a 3)

第二行b[a]=1  ++b[a]----->結果b[a]=2,然后在判斷是否等於1，此時不等於1，后面不執行

第三行b[a]=2  ++b[a]---->結果b[a]=3,然后在判斷是否等於1，此時不等於1，后面不執行

第四行b[s]=0  ++b[s]----->結果b[s]=1,然后在判斷是否等於1，等於1條件成立，執行后面的結果

輸出 print $1,$2,a[$2]------>$1=4,$2=s,a[$2]=a[s]=2 (4 s 2)

第五行b[s]=1  ++b[s]----->結果b[s]=2,然后在判斷是否等於1，此時不等於1，后面不執行

第六行b[d]=0  ++b[d]----->結果b[d]=1,然后在判斷是否等於1，等於1條件成立，執行后面的結果

輸出 print $1,$2,a[$2]------>$1=6,$2=d,a[$2]=a[d]=1 (6 d 1)

所以得到結果如下：

1 a 3

4 s 2

6 d 1