Linux sort 排序命令&&uniq去重复行

---

sort命令

• sort 命令对 File 参数指定的文件中的行排序，并将结果写到标准输出。如果 File 参数指定多个文件，那么 sort 命令将这些文件连接起来，并当作一个文件进行排序。

sort语法

sort [-fbMnrtuk] [file or stdin]
选项与参数：
-f ：忽略大小写的差异，例如 A 与 a 视为编码相同；
-b ：忽略最前面的空格符部分；
-M ：以月份的名字来排序，例如 JAN, DEC 等等的排序方法；
-n ：使用『纯数字』进行排序(默认是以文字型态来排序的)；
-r ：反向排序；
-u ：就是 uniq ，相同的数据中，仅出现一行代表；
-t ：分隔符，默认是用 [tab] 键来分隔；
-k ：以那个区间 (field) 来进行排序的意思

举个栗子

• 对/etc/passwd 的账号进行排序
  • 语句：cat /etc/passwd | sort
  • 结果：sort 是默认以第一个数据来排序，而且默认是以字符串形式来排序,所以由字母 a 开始升序排序。

adm:x:3:4:adm:/var/adm:/sbin/nologin
apache:x:48:48:Apache:/var/www:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin

• 以 : 来分隔的，以第三栏来排序
  • 语句：cat /etc/passwd | sort -t ':' -k 3
  • 结果：

root:x:0:0:root:/root:/bin/bash
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
operator:x:11:0:operator:/root:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
games:x:12:100:games:/usr/games:/sbin/nologin

• 默认是以字符串来排序的，如果想要使用数字排序：

  • 语句：cat /etc/passwd | sort -t ':' -k 3n
  • 结果：

  root:x:0:0:root:/root:/bin/bash
  daemon:x:1:1:daemon:/usr/sbin:/bin/sh
  bin:x:2:2:bin:/bin:/bin/sh

• 默认是升序排序，如果要倒序排序，如下

  • 语句：/etc/passwd | sort -t ':' -k 3nr
  • 结果：

nobody:x:65534:65534:nobody:/nonexistent:/bin/sh
ntp:x:106:113::/home/ntp:/bin/false
messagebus:x:105:109::/var/run/dbus:/bin/false
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin

• 如果要对/etc/passwd,先以第六个域的第2个字符到第4个字符进行正向排序，再基于第一个域进行反向排序。
  • 语句：cat /etc/passwd | sort -t':' -k 6.2,6.4 -k 1r
  • 结果：

sync:x:4:65534:sync:/bin:/bin/sync
proxy:x:13:13:proxy:/bin:/bin/sh
bin:x:2:2:bin:/bin:/bin/sh
sys:x:3:3:sys:/dev:/bin/sh

• 查看/etc/passwd有多少个shell:对/etc/passwd的第七个域进行排序，然后去重
  • 语句：/etc/passwd | sort -t':' -k 7 -u
  • 结果：

root:x:0:0:root:/root:/bin/bash
syslog:x:101:102::/home/syslog:/bin/false
daemon:x:1:1:daemon:/usr/sbin:/bin/sh
sync:x:4:65534:sync:/bin:/bin/sync
sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin

uniq命令

• uniq命令可以去除排序过的文件中的重复行，因此uniq经常和sort合用。也就是说，为了使uniq起作用，所有的重复行必须是相邻的。

uniq语法

• 语法：uniq [-icu]
• 选项与参数：
  • -i ：忽略大小写字符的不同；
  • -c ：进行计数;
  • -u ：只显示唯一的行;

举个栗子

• testfile文件内容

hello
world
friend
hello
world
hello

• 语句：uniq testfile
• 结果：直接删除未经排序的文件，将会发现没有任何行被删除

hello
world
friend
hello
world
hello

• 语句：cat testfile | sort |uniq
• 结果：排序文件，默认是去重

friend
hello
world

• 语句：sort testfile | uniq -c
• 结果：排序之后删除了重复行，同时在行首位置输出该行重复的次数

1 friend
3 hello
2 world

• 语句：sort testfile | uniq -dc
• 结果：仅显示存在重复的行，并在行首显示该行重复的次数

3 hello
2 world

• 语句：sort testfile | uniq -u
• 结果：仅显示不重复的行

friend