shell_awk

一、awk简介

awk是一种编程语言，用在linux/unix下对文本和数据进行出路。数据可以来自标准输入、一个或者多个文件，或者其他命令的输出。支持用户自定义函数和动态正则表达式等先进功能，是以Linux/unix下的一个强大编程工具。在命令行中使用，但更多是作为脚本来使用。
awk的处理文本和数据的方式是这样的，它逐行扫描文件，从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。如果没有指定处理动作，则把匹配的行显示到标准输出(屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。

二、awk的两种形式语法格式

awk [options] 'commands' filenames
awk [options] -f awk-script-file filenames
options:
-F 对于每次处理的内容，可以指定一个自定义的分隔符，默认的分隔符时空白字符（空格或者tab）
command:
BEGIN{} END{}
示例：
awk 'BEGIN{print "----开始处理了---"} {print "ok"} END{print "----都处理完毕---"}'

三、awk工作原理

 awk -F: '{print $1,$3}' /etc/passwd

1、awk：会处理文件的每一行，使用一行作为输入并将这一行赋给内部变量$0,每一行成为一个记录，以换行符结束。

2、行被:(默认为空字符或制表符)分解成字段(域)，每个字段存储在已编号的变量中，从$1开始，最多100个字段。

3、awk默认以空字符来分隔字段；awk输出之后，将从文件中获取另外一行，并将其存储在$0中，覆盖原来的内容，然后将新的字符串分隔成字段进行处理。

四、记录和字段相关内容变量

$0 ：  awk变量 $0 保存当前正在处理的行内容 
NR ： 当前正在处理的行是 awk 总共处理的行号。
FNR： 当前正在处理的行在其文件中的行号。
NF ：每行被处理时的总字段数
FS ： 输入行时的字段分隔符，默认空格 
awk 'BEGIN{FS=":"} {print $1,$3}' /etc/passwd
OFS:输出字段分隔符，默认是一个空格
awk 'BRGIN{FS=":"; OFS="+++"} /^root/{print $1,$2,$3,$4}' /etc/passwd

五、格式化输出

awk -F: '{printf "%-15s %-10s %-15s\n", $1,$2,$3}' /etc/passwd
awk -F: '{printf "|%-15s| %-10s| %-15s|\n", $1,$2,$3}' /etc/passwd
.%s字符类型
.%d十进制整数
.%f浮点类型
.%-15占15字符 -表示左对齐，默认是右对齐
.printf默认不会在行尾自动换行，加\n

六、正则表达式

 任何awk语句都由模式和动作组成。
 模式部分决定动作语句何时触发及触发事件。
 如果省略模式部分，动作将时刻保持执行状态。
 模式可以是任何条件语句或复合语句或正则表达式。

1、匹配记录(整行的匹配)

awk '/^root/' /etc/passwd
awk '$0 ~ /^root/' /etc/passwd
awk '!/root' /etc/passwd

2、匹配字段

可以使用的匹配操作符~和！~
awk -F: '$1 ~/^alice/' /etc/passwd
awk -F:' $NF !~/bash' /etc/passwd

3、比较表达式

比较表达式采用对文本进行比较，只有当条件为真，才执行指定的动作。
比较表达式使用关系运算符，用于比较数字与字符串。

关系运算符有：

<
>
<=
>=
== 等于 x != y
!= 不等于

示例

awk -F: '$3 == 0' /etc/passwd
awk -F: '$3 < 10' /etc/passwd
awk -F: '$NF == "/bin/bash"' /etc/passwd
awk -F: '$1 == "root"' /etc/passwd

df -P | grep '/' |awk '$4 > 25000'

条件表达式：

 awk -F: '$3>300 {print $0}' /etc/passwd
 awk -F: '{ if($3>300) print $0 }' /etc/passwd
 awk -F: '{ if($3>300) {print $0} }' /etc/passwd
 awk -F: '{ if($3>300) {print $3} else{print $1} }' /etc/passwd

算术运算：+, -, *, /, %(模: 取余), ^(幂：23)

可以在模式中执行计算，awk都将按浮点数方式执行算术运算

 awk -F: '$3 * 10 > 500' /etc/passwd
 awk -F: '{ if($3*10>500){print $0} }' /etc/passwd

逻辑操作符和复合模式

&& 逻辑与, 相当于 并且
||逻辑或，相当于 或者
! 逻辑非 , 取反

 awk -F: '$1~/root/ && $3<=15' /etc/passwd
 awk -F: '$1~/root/ || $3<=15' /etc/passwd
 awk -F: '!($1~/root/ || $3<=15)' /etc/passwd

范围模式, 符号是逗号 ,

使用语法是： 起始表达式, 终止表达式

$ awk -F: '/^bin/,/adm/ {print $0 }' /etc/passwd
--> bin:x:1:1:bin:/bin:/sbin/nologin daemon:x:2:2:daemon:/sbin:/sbin/nologinadm:x:3:4:adm:/var/adm:/sbin/nologin

awk正则示例

$ awk -F: '/^(bin|root)/' /etc/passwd  root:x:0:0:root:/root:/bin/zshbin:x:1:1:bin:/bin:/sbin/nologin

指定多个分隔符

 $ echo "a b|c d| ||||e | |" |awk -F'[ |]' '{print $10}'
-->e
 $ echo "a b|c d| ||||e | |" |awk -F'[ |]+' '{print $5}'
 -->e

七、awk脚本编程（扩展）

条件判断

if语句

格式
{ if (表达式) ；{语句;语句;...}}

# 以下是一行
awk -F: '{if ($3==0) {print $1 " is administrator." }}' \ /etc/passwd

#以下是一行
awk -F: '{if($3>0 && $3<1000) {count++;}} END{print count}' /etc/passwd

if...else语句

格式
{ if (表达式)｛语句;语句;...｝else{语句;语句;...}}

# 以下是一行
awk -F: '{if($3==0){print $1} else {print $7}}' /etc/passwd
awk -F: '{if($3==0) {count++} else{i++} }' /etc/passwd
# 以下是一行
awk -F: '{ if($3==0){count++} else{i++} } END{print "管理员个数: "count ; print  "系统用户数: "i}' /etc/passwd

if...else if...else语句

格式
{ if (表达式1) {语句;语句；...} else if (表达式2) {语句;语句；...} else if(表达式3){语句;语句；...} else {语句;语句；...} }

# 以下是一行
awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print i; print k; print j}' /etc/passwd

awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print "管理员个数: "i; print "普通用个数: "k; print "系统用户: "j}' /etc/passwd

awk使用外部变量：

扩展
方法一：awk 参数 -v (推荐使用，易读)

 [root@tianyun ~]# echo "unix script" |awk -v var="bash"
 'gsub(/unix/,var)'bash script
 [root@tianyun ~]# awk -v user=root -F: '$1 == **user**' /etc/passwd
 --> root:x:0:0:root:/root:/bin/bash

gsub 使 AWK 中的内置函数，功能使搜索替换 'gsub(/unix/,var) 中的意思是搜索 unix 字符串，替换为 var 变量对应的值

方法二：在双引号的情况下使用

 [root@tianyun ~]# var="bash"
 [root@tianyun ~]# echo "unix script" |awk "gsub(/unix/,\"$var\")"
--> bash script

方法三：在单引号的情况下使用（逼不得已使用）

 [root@tianyun ~]# var="bash"
 [root@tianyun ~]# echo "unix script" |awk 'gsub(/unix/,"'"$var"'")'
 --> bash scripts