【Linux命令二】文本处理命令awk

awk是Linux用来进行文本处理的命令,在日常工作中,广泛应用于日志分析。awk是一门解释型编程语言,包含变量,数组,循环控制结构,条件控制结构等。它的语法采用类C语言的语法。

 

awk命令用来做什么?

1.awk适用于具有一定结构的文本行,对其中的列进行提取信息

2.awk可以把当前正在处理的文本行提交给Linux的其它命令处理,然后把直接结构返回给awk

3.awk实际工作中,广泛应用与日志分析

 

样例数据

ID     Name  Salary Bonus
A000   Tom   9900   3212
A001   Jack   9999   2801
A002   Alex   8221   2003

针对这个数据,基本的需求可能是

1.查看某个人的BaseSalary,Bonus

2.列出所有人的BaseSalary和Bonus之和

3.列出所有人的Bonus(只显示Name和Bonus)

 

通过awk,可以很容易的实现这些需求

 

awk命令格式

awk命令包括三部分:pattern,action,input-file(可以是文件,可以是其它命令的管道)

 

  • input-file文本文件,提供awk文本处理的数据源,awk每次一行的循环处理
  • pattern 用于匹配input-file中的正在处理的行是否满足条件,它可以是普通字符串,也可以是正则表达式。对于不匹配的行,awk不会调用action以执行响应的操作。如果匹配,则执行相应的操作
  • action 当当前处理的文本行满足条件时,将执行action操作,操作的结果作为命令结果的一部分

 FS,RS,$0,$1,..,$n

 awk对输入的文本,逐行进行处理以提取每行中各个字段值,为了达到这个目的,awk需要知道如下信息:

  • 每行的结尾符是什么,即awk如何判定一定读取完某一个
  • 每行文本以什么样的字符串来进行文本行切割以得到各个字段
  • 分割得到的这些字段(可能有多个),如何读取,比如用户只希望得到示例数据中每行的Name列,忽略其它

1. 行结尾符

awk使用内置变量RS(Record )来设置行结尾符,默认是文本结束符\n,可以通过为RS赋值来设置结尾符(这适用于没有整个文本只有一行)。比如RS=end,表示使用end来把文本切割为多行

 

2. 字段分割符

awk使用内置变量FS(Field)来设置字段分隔符,默认是一个空格或者一个制表符\t。可以通过FS赋值来设置字段分隔符,例如FS="  ",使用两个空格作为分隔符。awk可以使用-F参数来设置字段分割符

 

3.$0, $1..$n

使用awk对一行文本按照给定的字段分割符进行处理后,如何引用各个字段的值。比如在示例数据中分割为多列后,如何取出每一列的值,这就是用到了$0..$n。其中$0表示当前处理的全文本行,$1表示第一列,$2表示第二列,。。$n表示第n列

 

 示例:

 

1.打印四行完整数据

awk '{print}' data.txt

awk -F "   " '{print $0}'

awk  'FS="   "    {print}'

awk 'BEGIN{FS="   "}    {print}'

输出结果:四行完整的数据

 

2.打印用户名

awk 'BEGIN{FS="   " ; print "用户名"}  /^A/   {print $2}' data.txt

注意:

  • 使用;分割FS赋值和print输出命令
  • /^A/正则表达式表示以A开头的行被选中

输出结果:

用户名
Tom
Jack
Alex

 

3.计算每个人的总工资

 

awk 'BEGIN{FS="   " ; print "用户名\t月收入"}  /^A/   {total = $3 + $4; print $2 ,  total}' data.txt

 

输出结果:

用户名    月收入
Tom 13112
Jack 9999
Alex 8221

 

4.输出Salary在9000以上的用户名和工资

 

awk 'BEGIN{FS="   " ; print "用户名\t月收入"} /^A/ {if ($3 >= 9000) print $2,$3} ' data.txt

输出结果

用户名    月收入
Tom 9900
Jack 9999

 

5.END使用

awk 'BEGIN{FS="   " ; print "用户名\t月收入"} END{print "统计结束"} /^A/ {if ($3 >= 9000) print $2,$3} ' data.txt

 

执行结果:

用户名    月收入
Tom 9900
Jack 9999
统计结束

 

6.只显示Bonus的总和

awk 'BEGIN{total=0} END{print total} /^A/  {total += $4}' data.txt

 

7.显示以A开头的记录有几条

awk 'BEGIN{total=0} END{print total} /^A/  {total++}' data.txt

 

输出3

 

8.do/while循环

awk 'BEGIN{total=0} END{print total} /^A/  {do {print i } while(i++<3)}' data.txt

 

输出:

0

1

2

3

4

5

0

 

 总结

1.  action应该用{}括起来,当有多条命令放在action的语句块中时,用分号分割

2. action语句块有其它语句块时,使用{}括起来,即{}是可以嵌套的

3.  pattern可以包含BEGIN和END,BEGIN中的代码块(用大括号括起来)表示在开始处理文本前执行,END中的代码块(用大括号括起来)表示在处理文本结果后执行。

4.  大括号之间不用逗号风格,比如示例5

 

 

awk编程语言基本元素

 awk编程语言的语言元素与C语言类似,

1.算术运算符

 +, -,*,/,%,+=,-=

2. 比较运算符

< <= == >= >=

3.逻辑运算符

&& || !

4.++,--

 

5. for(variable in array) {

   }

6. do {} while ()7. while(){}

 

你可能感兴趣的:(linux命令)