LINUX操作文本文件常用下面命令來方便排序、統計、去重等等操作。
sort
sort 命令對 File 參數指定的文件中的行排序，並將結果寫到標准輸出。如果 File 參數指定多個文件，那麼 sort 命令將這些文件連接起來，並當作一個文件進行排序。
sort語法
[root@www ~]# sort [-fbMnrtuk] [file or stdin] 選項與參數： -f ：忽略大小寫的差異，例如 A 與 a 視為編碼相同； -b ：忽略最前面的空格符部分； -M ：以月份的名字來排序，例如 JAN, DEC 等等的排序方法； -n ：使用『純數字』進行排序(默認是以文字型態來排序的)； -r ：反向排序； -u ：就是 uniq ，相同的數據中，僅出現一行代表； -t ：分隔符，默認是用 [tab] 鍵來分隔； -k ：以那個區間 (field) 來進行排序的意思
對/etc/passwd 的賬號進行排序
[root@www ~]# cat /etc/passwd | sort adm:x:3:4:adm:/var/adm:/sbin/nologin apache:x:48:48:Apache:/var/www:/sbin/nologin bin:x:1:1:bin:/bin:/sbin/nologin daemon:x:2:2:daemon:/sbin:/sbin/nologin
sort 是默認以第一個數據來排序，而且默認是以字符串形式來排序,所以由字母 a 開始升序排序。
/etc/passwd 內容是以 : 來分隔的，我想以第三欄來排序，該如何
[root@www ~]# cat /etc/passwd | sort -t ':' -k 3 root:x:0:0:root:/root:/bin/bash uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin operator:x:11:0:operator:/root:/sbin/nologin bin:x:1:1:bin:/bin:/sbin/nologin games:x:12:100:games:/usr/games:/sbin/nologin
默認是以字符串來排序的，如果想要使用數字排序：
cat /etc/passwd | sort -t ':' -k 3n root:x:0:0:root:/root:/bin/bash daemon:x:1:1:daemon:/usr/sbin:/bin/sh bin:x:2:2:bin:/bin:/bin/sh
默認是升序排序，如果要倒序排序，如下
cat /etc/passwd | sort -t ':' -k 3nr nobody:x:65534:65534:nobody:/nonexistent:/bin/sh ntp:x:106:113::/home/ntp:/bin/false messagebus:x:105:109::/var/run/dbus:/bin/false sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin
如果要對/etc/passwd,先以第六個域的第2個字符到第4個字符進行正向排序，再基於第一個域進行反向排序。
cat /etc/passwd | sort -t':' -k 6.2,6.4 -k 1r sync:x:4:65534:sync:/bin:/bin/sync proxy:x:13:13:proxy:/bin:/bin/sh bin:x:2:2:bin:/bin:/bin/sh sys:x:3:3:sys:/dev:/bin/sh
查看/etc/passwd有多少個shell:對/etc/passwd的第七個域進行排序，然後去重:
cat /etc/passwd | sort -t':' -k 7 -u root:x:0:0:root:/root:/bin/bash syslog:x:101:102::/home/syslog:/bin/false daemon:x:1:1:daemon:/usr/sbin:/bin/sh sync:x:4:65534:sync:/bin:/bin/sync sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin
uniq命令可以去除排序過的文件中的重復行，因此uniq經常和sort合用。也就是說，為了使uniq起作用，所有的重復行必須是相鄰的。
uniq語法
[root@www ~]# uniq [-icu] 選項與參數： -i ：忽略大小寫字符的不同； -c ：進行計數 -u ：只顯示唯一的行
testfile的內容如下
cat testfile hello world friend hello world hello
直接刪除未經排序的文件，將會發現沒有任何行被刪除
#uniq testfile hello world friend hello world hello
排序文件，默認是去重
#cat words | sort |uniq friend hello world
排序之後刪除了重復行，同時在行首位置輸出該行重復的次數
#sort testfile | uniq -c 1 friend 3 hello 2 world
僅顯示存在重復的行，並在行首顯示該行重復的次數
#sort testfile | uniq -dc 3 hello 2 world
僅顯示不重復的行
sort testfile | uniq -u friend
*
