linux三剑客之awk精讲,Linux三杀手之awk最好实行

时间:2019-10-26 03:01来源:凤凰彩票官方app
第1章 awk指哪打哪 笔者Q:972581034 调换群:605799367。有其余难题可与作者或加群沟通 知识点: 笔录与字段 情势相称:格局与动作 核心的awk实践进度 awk常用内置变量(预定义变量) awk数

第1章 awk指哪打哪

笔者Q:972581034 调换群:605799367。有其余难题可与作者或加群沟通

知识点:

  • 笔录与字段
  • 情势相称:格局与动作
  • 核心的awk实践进度
  • awk常用内置变量(预定义变量)
  • awk数组
  • awk语法:循环、条件
  • awk常用函数
  • 向awk传递参数
  • awk引用shell变量
  • awk小程序及调节和测量检验思路

    [root@ctg ~]# awk --version|head -1
    GNU Awk 3.1.7
    

Linux三刺客之awk精讲(基础与晋级)

标签(空格分隔): Linux实战教学笔记-陈思齐


1.1 awk内置变量

FS 

输入字段(列)分隔符

-F :

相当于-vFS :

NR 

number of record 行号(记录号)

NF  

number of filed  每行有多少列

OFS

output 输出分隔符

RS 

record separator 记录分隔符每一的结束标记 默认是回车

IGNORECASE

是否忽略大小写  1为忽略

第1章 记录和字段

record记录==行, 田野(field)字段也便是列,字段==列。
awk对种种要管理的输入数据以为都以有着格式和结构的,而不光是一批字符串。暗中认可景况下,每风姿浪漫行内容都是一条记下,并以换行符分隔(n)结束

相当的慢跳转目录:

* 第1章:awk基础入门
* 1.1:awk简介 * 1.2:学完awk你可以掌握: * 1.3:awk环境简介 * 1.4:awk的格式
* 1.5:模式动作 * 1.6:awk的执行过程 * 1.6.1:小结awk执行过程 * 1.7:记录和字段
* 1.7.1:记录(行) * 1.7.2:记录分隔符-RS * 1.7.3:对$0的认识 * 1.7.4:企业面试题
* 1.7.5:awk记录知识小结 * 1.7.6:字段(列) * 1.7.7:ORS与OFS简介 * 1.9:awk基础入门总结
* 第2章:awk进阶
* 2.1:awk模式与动作 * 2.2:正则表达式作为模式 * 2.2.1:awk正则匹配操作符 * 2.2.2:awk正则表达式匹配整行
* 2.2.3:awk正则表达式匹配一行中的某一列 * 2.2.4:某个区域中的开头和结尾 * 2.2.5:创建测试环境 * 2.2.6:测试文件说明
* 2.2.7:awk正则表达式练习题 * 2.2.8:awk正则表达式练习题-详解 * 2.2.9:企业面试题 * 2.2.10:明明白白扩展正则表达式:+(加号)
* 2.2.11:awk正则之{} -花括号 * 2.2.12:企业案例1 * 2.2.13:企业案例2 * 2.3:比较表达式做为模式-需要一些例子
* 2.3.1:企业面试题 * 2.3.2:如果判断某一列是否等于某个字符呢? * 2.4:范围模式 * 2.5:awk特殊模式-BEGIN模式与END模式
* 2.5.1:BEGIN模块 * 2.5.2:awk中变量的概念简介 * 2.5.3:END模块 * 2.6:awk中的动作
* 2.7:awk模式与动作小结 * 2.8:总结awk执行过程
* 2.9:awk数组 * 2.10:图片-数组

1.1.1 途乐S    记录分隔符   每黄金时代的甘休标志暗中认可是回车

[root@zeq files]# cat passwd.txt

root:x:0:0:root:/root:/bin/bash

bin:x:1:1:bin:/bin:/sbin/nologin     默认结束标记是回车,现在文件内容为两行

以/作为记录分隔符,展现行号和文件内容

[root@zeq files]# awk -vRS="/" '{print NR,$0}' passwd.txt   NR是显示行号   $0是显示一整行的内容

1 root:x:0:0:root:

2 root:

3 bin

4 bash

bin:x:1:1:bin:

5 bin:

6 sbin

7 nologin               现在以/为记录分隔符就变成了7行

这里的awk -vRS="/"     -v给变量赋值,RS是awk内置变量,设置/为记录分隔符

1.1记下分隔符-RS

第1章 awk基础入门

要弄懂awk程序,必得熟习精晓这一个工具的家有家规。本实战笔记的目标是经超过实际际案例或面试题带同学们熟悉精晓awk在商店中的用法,实际不是awk程序的支持手册。

1.2 awk中表示行和列

NR==1

第一行

$1

第一列

$NF

最后一列

$NF-1

倒数第二列

 

awk暗许情状下每一行都以一个记下(record)

RS即 record separator输入数据记录分隔符,每生机勃勃行是怎么没的,表示每种记录输入的时候的分隔符,即行与行之间怎么样分隔。
NR即number of record记录(行)号,表示近期正在管理的笔录(行)的编号
O卡宴S即output record separator输出记录分隔符

awk使用内置变量宝马7系S来存放在输入记录分隔符,OdysseyS代表的是输入的记录分隔符,那些值可以透过BEGIN模块重新定义纠正。

1.1 awk简介

  • 生龙活虎种名字古怪的语言
  • 形式扫描和拍卖

awk不仅时linux系统中的三个指令,何况是生机勃勃种编制程序语言,能够用来拍卖数据和生成报告(excel)。管理的多少能够是一个或多个文件,能够是源于职业输入,也得以经过管道获取标准输入,awk能够在命令行上直接编辑命令进行操作,也能够编写成awk程序来拓宽越发复杂的施用。本章重要传授awk命令的运用。

1.3 awk方式相称(条件)

形式-pattern  支持你找到想要的行

1)正则表明式

2)比较

   >

   <

   ==

3)范围

4)BEGIN{} END{}

小结:

gawk
EnclaveS=行分隔符(记录分隔符)
OGL450S=输出记录分隔符
FS=字段分隔符(列分隔符)
OFS=输出字段分隔符
$0=整个记录
NF= 列数
NR= 行数
在{print ,}中,逗号的乐趣是OFS
BEGIN:重要用以定义内置变量.

1.2 学完awk你能够精通:

  1. 笔录与字段
  2. 情势相配:格局与动作
  3. 着力的awk履行进度
  4. awk常用内置变量(预订义变量)
  5. awk数组(事业常用)
  6. awk语法:循环,条件
  7. awk常用函数
  8. 向awk传递参数
  9. awk引用shell变量
  10. awk小程序及调节和测量检验思路

1.4 正则表达式

~

某一列中包含xxx

!~

某一列中不包含xxx

^

以....开头的字符(列)

$

以....什么结尾的

.*

所有

^$

空行

转义字符 backslash  脱掉马甲打回原形

[]

匹配[]的每一个字符

+

一个字符出现1次或1次以上

|

或者

()

反向引用,一个整体,保护里面的内容

*

一个字符出现0次或者0次以上

{}

0{n,m} 数字0连续出现了至少n次,最多m次

?

一个字符出现0次或1次

1.2 对$0的认识

awk$0表示整行,其实awk使用$0来表示整条记录。记录分隔符

1.3 awk情状简单介绍

[root@chensiqi1 ~]# cat /etc/redhat-release 
CentOS release 6.8 (Final)
[root@chensiqi1 ~]# uname -r
2.6.32-642.el6.x86_64
[root@chensiqi1 ~]# ll `which awk`
lrwxrwxrwx. 1 root root 4 Dec 23 20:25 /bin/awk -> gawk
[root@chensiqi1 ~]# awk --version
GNU Awk 3.1.7
Copyright (C) 1989, 1991-2009 Free Software Foundation.

This program is free software; you can redistribute it and/or modify
it under the terms of the GNU General Public License as published by
the Free Software Foundation; either version 3 of the License, or
(at your option) any later version.

This program is distributed in the hope that it will be useful,
but WITHOUT ANY WARRANTY; without even the implied warranty of
MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
GNU General Public License for more details.

You should have received a copy of the GNU General Public License
along with this program. If not, see http://www.gnu.org/licenses/.

1.4.1 awk正则表明式演习

始建景况

mkdir -p /server/files/

cat >>/server/files/reg.txt<<EOF

Zhang Dandan    41117397   :250:100:175             第一列是姓氏

Zhang Xiaoyu    390320151  :155:90:201              第二列是名字

Meng  Feixue    80042789   :250:60:50               第一第二列合起来就是姓名

Wu    Waiwai    70271111   :250:80:75               第三列是对应的ID号码

Liu   Bingbing  41117483   :250:100:175             最后三列是三次捐款数量 

Wang  Xiaoai    3515064655 :50:95:135

Zi    Gege      1986787350 :250:168:200

Li    Youjiu    918391635  :175:75:300

Lao   Nanhai    918391635  :250:100:175

EOF

1.3 集团面试题

总结上面文件里单词现身的次数并列排在一条线序
由sed -r 's#[^a-Z]+# #g' /etc/passwd > /root/tongji.txt 创建
解答:

awk 'BEGIN{RS="[^a-zA-Z]"}{print $0}' tongji.txt |sort |uniq -c|sort -rn

1.4 awk的格式

  • awk指令是由格局,动作,可能情势和动作的结合组成。
  • 形式既pattern,能够接近驾驭成sed的情势匹配,能够由表达式组成,也足以是五个正斜杠之间的正则表明式。比方N凯雷德==1,那即是情势,可以把他精晓为贰个法则。
  • 动作即action,是由在大括号里面包车型大巴一条或多条语句组成,语句之直接收分号隔开。比方awk使用格式:

凤凰彩票官方app 1

awk管理的始末能够来自专门的学业输入(<),七个或几个文件文件或管道。

凤凰彩票官方app 2

  • pattern既情势,也得以通晓为标准,也叫找哪个人,你找哪个人?高矮,胖瘦,男女?都是标准,既格局。
  • action既动作,能够知晓为干啥,找到人从今以后你要做哪些。
    方式和动作的详实介绍我们身处尾部,以往大家先对awk结构有多少个叩问。

1.4.2 抽出第3列中以数字4开始的行

[root@zeq files]# awk '$3~/^4/' reg.txt    $3 第3列   ~ 包括    ^4 以4开头

Zhang Dandan    41117397   :250:100:175

Liu   Bingbing  41117483   :250:100:175

1.4 awk记录知识小结:

  1. N传祺(number of record)寄存着各类记录的号(行号)读取新行时候会自动+1
  2. 福睿斯S(record separator)是输入数据的记录的分隔符,简单明白正是足以钦定每种记录的末梢标识
  3. SportageS功能就是表示贰个记下的终结
  4. 当我们改过了OdysseyS的值,最棒协作NTucson(行)来查看变批,也正是改正了酷威S的值通过N奇骏查看结果,调节和测量检验awk程序
  5. OHighlanderS输出数据的笔录的相间符

1.5 格局动作

示范1-1: 基本的格局和动作

[root@chensiqi1 ~]# awk -F ":" 'NR>=2 && NR<=6{print NR,$1}' /etc/passwd
2 bin
3 daemon
4 adm
5 lp
6 sync
命令说明:
-F 指定分隔符为冒号,相当于以“:”为菜刀,进行字段的切割。
NR>=2 && NR<=6:这部分表示模式,是一个条件,表示取第2行到第6行。
{print NR,$1}:这部分表示动作,表示要输出NR行号和$1第一列。

示例1-2 只有形式

[root@chensiqi1 ~]# awk -F ":" 'NR>=2&&NR<=6' /etc/passwd
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
sync:x:5:0:sync:/sbin:/bin/sync

命令说明:
-F指定分隔符为冒号
NR>=2&&NR<=6这部分是条件,表示取第2行到第6行。
但是这里没有动作,这里大家需要了解如果只有条件(模式)没有动作,awk默认输出整行

演示1-3:独有动作

[root@chensiqi1 ~]# awk -F ":" '{print NR,$1}' /etc/passwd
1 root
2 bin
3 daemon
4 adm
5 lp
6 sync
7 shutdown
8 halt
9 mail
10 uucp
以下省略....

命令说明:
-F指定分隔符为冒号
这里没有条件,表示对每一行都处理
{print NR,$1}表示动作,显示NR行号与$1第一列
这里要理解没有条件的时候,awk会处理每一行。

身体力行1-4:三个格局和动作

[root@chensiqi1 ~]# awk -F ":" 'NR==1{print NR,$1}NR==2{print NR,$NF}' /etc/passwd
1 root
2 /sbin/nologin

命令说明:
-F指定分隔符为冒号
这里有多个条件与动作的组合
NR==1表示条件,行号(NR)等于1的条件满足的时候,执行{print NR,$1}动作,输出行号与第一列。
NR==2表示条件,行号(NR)等于2的条件满足的时候,执行{print NR,$NF}动作,输出行号与最后一列($NF)

注意:

  • 帕特tern和{Action}须要用单引号引起来,幸免shell作解释。
  • Pattern是可选的。假若不点名,awk将拍卖输入文件中的全体记录。倘使钦定二个情势,awk则只管理相称钦赐的格局的记录。
  • {Action}为awk命令,能够是但个指令,也得以三个指令。整个Action(饱含内部的有所命令)都必需放在{ 和 }之间。
  • Action必得被{ }包裹,未有被{ }包裹的正是Patern
  • file要处理的对象文件

1.4.3 展现Xiaoyu的姓氏和ID号码

[root@zeq files]# awk ' $2~/Xiaoyu/{print $1,$3}' reg.txt  

Zhang 390320151

1.5 字段(列)

FS即field separator,输入字段(列)分隔符。分隔符就是菜刀,把一行字符串切为很多个区域
NF即 number of fileds,表示一行中列(字段)的个数,可以理解为菜刀切过一行后,切成了多少份
OFS输出字段(列)分隔符
awk使用内置变量FS来记录区域分隔符的内容,FS可以在命令行上通过-F参数来更改,也可以通过BEGIN模块来更改
然后通过$n,n是整数,来取被切割后的区域,
3.6 ORS与OFS简介
RS是输入记录分隔符,决定awk如何读取或分割每行(记录)
ORS表示输出记录分隔符,决定awk如何读取或分割每行(记录)
FS是输入区域分隔符,决定awk输出每个区域的时候使用什么分割他们。
awk无比强大,你可以通过RS,FS决定awk如何读取数据。你也可以通过修改ORS,OFS的值指定awk如何输出数据。
{print ,}这里面的逗号等于OFS的值

OdysseyS=行分隔符(记录分隔符)
O传祺S=输出记录分隔符
FS=字段分隔符(列分隔符)
OFS=输出字段分隔符(OFS的值等于逗号)

1.6 awk试行进度

在深深领悟awk前,大家须求理解awk如什么地方理公事的。

演示1-5 示例文件的创设

[root@chensiqi1 ~]# mkdir /server/files/ -p
[root@chensiqi1 ~]# head /etc/passwd > /server/files/awkfile.txt
[root@chensiqi1 ~]# cat /server/files/awkfile.txt 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
sync:x:5:0:sync:/sbin:/bin/sync
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
halt:x:7:0:halt:/sbin:/sbin/halt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

以此文件仅包涵十行文件,大家选用上边包车型大巴吩咐:

演示1-6 awk实行进度演示

[root@chensiqi1 ~]# awk 'NR>=2{print $0}' /server/files/awkfile.txt 
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
sync:x:5:0:sync:/sbin:/bin/sync
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
halt:x:7:0:halt:/sbin:/sbin/halt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

命令说明:
条件NR>=2,表示行号大于等于2时候,执行{print $0}显示整行。
awk是通过一行一行的处理文件,这条命令中包含模式部分(条件)和动作部分(动作),awk将处理模式(条件)指定的行

1.4.4 突显全数以41方始的ID号码的人的全名和ID号码

[root@zeq files]# awk '$3~/^41/{print $1,$2,$3}' reg.txt

Zhang Dandan 41117397

Liu Bingbing 41117483

awk暗许动作

[root@zeq files]# awk  '$3~/^41/' reg.txt

Zhang Dandan    41117397   :250:100:175

Liu   Bingbing  41117483   :250:100:175

[root@zeq files]# awk  '$3~/^41/{print }' reg.txt

Zhang Dandan    41117397   :250:100:175

Liu   Bingbing  41117483   :250:100:175

$0=整个记录

3.7 题目
按单词现身频率降序排序

[root@ctg files]# cat count.txt 
root x root root bin bash
bin x bin bin sbin nologin
daemon x daemon sbin sbin nologin
adm x adm var adm sbin nologin
lp x lp var spool lpd sbin nologin
sync x sync sbin bin sync
shutdown x shutdown sbin sbin shutdown
halt x halt sbin sbin halt
mail x mail var spool mail sbin nologin
uucp x uucp var spool uucp sbin nologin

解答:

sed 's# #n#g' count_word.txt|sort |uniq -c 
tr " " "n" < count_word.txt|sort |uniq -c 
awk 'BEGIN{RS=" "}{print $0}' count_word.txt|sort |uniq -c 
egrep -o "[a-z]+" count_word.txt|sort |uniq -c 
xargs -n1 <awk_blank.txt|sort |uniq -c 
awk 'BEGIN{RS=" "}{print $0}' awk_blank.txt|sort |uniq -c 
egrep -o "[a-zA-Z0-9]+" awk_blank.txt|sort |uniq -c

第2章 awk进阶
2.1 awk的模式
 正则表明式作为情势
 比较表明式作为情势
 范围情势
 特殊方式BEGIN和END
awk的方式是您玩好awk的不可缺乏也是最基础的原委,必得熟习精晓
2.1 练习题:

mkdir -p /server/files/
cat >>/server/files/reg.txt<<EOF
Zhang Dandan    41117397   :250:100:175
Zhang Xiaoyu    390320151  :155:90:201
Meng  Feixue    80042789   :250:60:50
Wu    Waiwai    70271111   :250:80:75
Liu   Bingbing  41117483   :250:100:175
Wang  Xiaoai    3515064655 :50:95:135
Zi    Gege      1986787350 :250:168:200
Li    Youjiu    918391635  :175:75:300
Lao   Nanhai    918391635  :250:100:175
EOF

展现姓Zhang的人的第一遍捐款金额及她的名字

 [root@ctg files]# awk -F "[ :]+" '$1~/Zhang/{print $(NF-1)}' reg.txt 
100
90

展现Xiaoyu的姓氏和ID号码

[root@oldboy34-niubility files]# awk '$2~/Xiaoyu/{print $1,$2,$3}' reg.txt 
Zhang Xiaoyu 390320151

彰显全数以41起始的ID号码的人的全名和ID号码

[root@oldboy34-niubility files]# awk '$3~/^41/{print $1,$2,$3}' reg.txt 
Zhang Dandan 41117397
Liu Bingbing 41117483

来得全体以贰个D或X开端的全名全名

[root@oldboy34-niubility files]# awk '$2~/^[DX]/{print $1,$2}' reg.txt 
Zhang Dandan
Zhang Xiaoyu
Wang Xiaoai

来得全数ID号码最终壹个人数字是1或5的人的全名

[root@oldboy34-niubility files]# awk '$3~/[15]$/{print $1,$2}' reg.txt 
Zhang Xiaoyu
Wu Waiwai
Wang Xiaoai
Li Youjiu
Lao Nanhai

展现Xiaoyu的捐款.各类值时皆有以$开头.如$520$200$135

[root@ctg files]# awk '/Xiaoyu/{print $NF}' reg.txt |tr ":" "$"
$155$90$201

[root@ctg files]# awk -F "[ :]+" 'BEGIN{OFS="$"}/Xiaoyu/{print  "",$4,$5,$6}' reg.txt 
$155$90$201

awk '{gsub(/:/,"$");print $NF}' reg.txt

展现全数人的人名,以姓,名的格式展现,如Meng,Feixue

[root@ctg files]# awk '{print $1","$2}' reg.txt 
Zhang,Dandan
Zhang,Xiaoyu
Meng,Feixue
Wu,Waiwai
Liu,Bingbing
Wang,Xiaoai
Zi,Gege
Li,Youjiu
Lao,Nanhai

收取上面不是oldboy的行 (相称结果需包括oldboy linux )

cat >>/server/files/zhuanyedian.txt <<EOF
lidao
oldboy
oldboylinux
zhangdao
xiadao
EOF

[root@oldboy34-niubility files]# awk '$0!~/oldboy$/' zhuanyedian.txt
lidao
oldboylinux
zhangdao
xiadao

1.6.1 小结awk执行进度

1)awk读入第豆蔻梢头行内容

2)判别是还是不是相符格局中的条件N奇骏>=2

a,假使合作则奉行相应的动作{print $0}
b,借使不匹配原则,继续读取下大器晚成行

3)继续读取下风流倜傥行
4)重复进度1-3,直到读取到最后意气风发行(EOF:end of file)

凤凰彩票官方app 3

1.4.5 展现全数ID号码最终一人数字是1或5的人的人名

方法1

[root@zeq files]# awk '$3~/[15]$/{print $1,$2}' reg.txt     []匹配里面的1和5    $表示以...结尾

Zhang Xiaoyu

Wu Waiwai

Wang Xiaoai

Li Youjiu

Lao Nanhai

方法2

[root@zeq files]# awk '$3~/(1|5)$/{print $1,$2}' reg.txt     |或者   1或者5

Zhang Xiaoyu

Wu Waiwai

Wang Xiaoai

Li Youjiu

Lao Nanhai

2.2 gsub替换函数

[root@ctg test]# cat reg.txt 
Zhang Dandan    41117397     :250:100:175
Zhang Xiaoyu    390330151    :155:90:201
Meng  Feixue    80042789     :250:60:50
Wu    Waiwai    70271111     :250:80:75
Liu   Bingbing  41117483     :250:100:175
Wang  Xiaoai    3515064655   :50:95:135
Zi    Gege      1986787350   :250:168:200
Li    Youjiu    918381635    :175:75:300
Lao   Nanhai    918391635    :250:100:175
[root@ctg test]# awk '{gsub(/:/,"$");print $NF}' reg.txt 
$250$100$175
$155$90$201
$250$60$50
$250$80$75
$250$100$175
$50$95$135
$250$168$200
$175$75$300
$250$100$175

[root@oldboy34-niubility files]# #sed 's###g'
[root@oldboy34-niubility files]# #gsub awk中 进行查找替换 功能 命令 函数
[root@oldboy34-niubility files]# #gsub(/正则表达式/,"替换成什么")  #把一行内 
[root@oldboy34-niubility files]# #gsub(/正则表达式/,"替换成什么",$2) #把$2第二列里面的 内容替换成xxx
[root@oldboy34-niubility files]# 
[root@oldboy34-niubility files]# echo oldboy linux |awk '{gsub(/oldboy/,"oldgirl")}'
[root@oldboy34-niubility files]# echo oldboy linux |awk '{gsub(/oldboy/,"oldgirl");print }'
oldgirl linux
[root@oldboy34-niubility files]# cat 
awkfile.txt      count.txt        oldboy.txt       reg.txt          zhuanyedian.txt  
[root@oldboy34-niubility files]# cat reg.txt 
Zhang Dandan    41117397   :250:100:175
Zhang Xiaoyu    390320151  :155:90:201
Meng  Feixue    80042789   :250:60:50
Wu    Waiwai    70271111   :250:80:75
Liu   Bingbing  41117483   :250:100:175
Wang  Xiaoai    3515064655 :50:95:135
Zi    Gege      1986787350 :250:168:200
Li    Youjiu    918391635  :175:75:300
Lao   Nanhai    918391635  :250:100:175
[root@oldboy34-niubility files]# awk '{gsub(/:/,"$",$NF);print }' reg.txt 
Zhang Dandan 41117397 $250$100$175
Zhang Xiaoyu 390320151 $155$90$201
Meng Feixue 80042789 $250$60$50
Wu Waiwai 70271111 $250$80$75
Liu Bingbing 41117483 $250$100$175
Wang Xiaoai 3515064655 $50$95$135
Zi Gege 1986787350 $250$168$200
Li Youjiu 918391635 $175$75$300
Lao Nanhai 918391635 $250$100$175
[root@oldboy34-niubility files]# awk '{gsub(/:/,"$",$NF);print }' reg.txt |column -t
Zhang  Dandan    41117397    $250$100$175
Zhang  Xiaoyu    390320151   $155$90$201
Meng   Feixue    80042789    $250$60$50
Wu     Waiwai    70271111    $250$80$75
Liu    Bingbing  41117483    $250$100$175
Wang   Xiaoai    3515064655  $50$95$135
Zi     Gege      1986787350  $250$168$200
Li     Youjiu    918391635   $175$75$300
Lao    Nanhai    918391635   $250$100$175

[root@ctg files]# awk '{gsub(/[a-zA-Z]/,"*");print}' reg.txt 
***** ******    41117397   :250:100:175
***** ******    390320151  :155:90:201
****  ******    80042789   :250:60:50
**    ******    70271111   :250:80:75
***   ********  41117483   :250:100:175
****  ******    3515064655 :50:95:135
**    ****      1986787350 :250:168:200
**    ******    918391635  :175:75:300
***   ******    918391635  :250:100:175
[root@ctg files]# awk '{gsub(/[a-zA-Z]/,"*",$1);print}' reg.txt 
***** Dandan 41117397 :250:100:175
***** Xiaoyu 390320151 :155:90:201
**** Feixue 80042789 :250:60:50
** Waiwai 70271111 :250:80:75
*** Bingbing 41117483 :250:100:175
**** Xiaoai 3515064655 :50:95:135
** Gege 1986787350 :250:168:200
** Youjiu 918391635 :175:75:300
*** Nanhai 918391635 :250:100:175

1.7 记录和字段

接下去自身给大家带来五个新定义记录和字段,这里为了有扶助我们通晓能够把记录就充任行即记录==行,字段也正是列,字段==列。

名称 含义
record 记录,行
field 域,区域,字段,列

1.4.6 显示Xiaoyu的捐款.种种值时都有以$初步.如$520$200$135

[root@zeq files]# awk -F: -vOFS=$ '/Xiaoyu/{print "$"$2,$3,$4}' reg.txt

$155$90$201          -F指定:为分隔符    -vOFS=$输出$为分隔符   

2.3 相比表明式作为形式

事先大家看了正则表明式在awk下的选拔,上边再具体看占卜比较表达式怎样在awk下专门的学问。
awk是风度翩翩种编制程序语言,能够进行尤其复杂的决断,当条件为确实时候,awk就施行相关的action。重倘若在针对某意气风发区域做出相关的推断,比方打字与印刷成绩在80分以上的行,那样就非得对这贰个区域做比较判定,下表中列出了awk能够动用的关系运算符,能够用来比较数字照旧字符串,还会有正则表达式。当表明式为真时,表明式结果为1,不然为0,唯有表明式为真,awk才实施有关的action
|运算符 含义 示例

< 小于 x>y
<= 小于等于 x<=y
== 等于 x==y
!= 不等于 x!=y
>= 大与或等于 x>=y
> 大于 x<y
上述的运算符均是指向数字,上边八个运算符针对字符串
~ 与正则表明式相称 x~/y/
!~ 与正则表达式不相配 x!~y

1.7.1 记录(行)

翻看一下底下这段文字

root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
sync:x:5:0:sync:/sbin:/bin/sync
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
halt:x:7:0:halt:/sbin:/sbin/halt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

思考:
合计某些许行呢?你如何通晓的?通过什么样标识?

awk对每种要管理的输入数据以为都是有着格式和结构的,而不独有是一群字符串。暗中认可情状下,每后生可畏行内容都是一条记下,并以换行符分隔(n)结束

1.5 awk替换

gsub  awk内置函数

2.4 说明

awk在输出整行既$0的时候,仅仅是纹丝不动的出口整行,未有别的改变。那就导致贰个主题材料,借使本人改善了OFS,那么输出整行的时候print $0的时候,也不会有别的变动。即:纵然awk的action动作未有改良行的内容,OFS(包含OEvoqueS)都不会收效。
就此大家须求让awk知道$0被涂改了,那三个事务。
$1=$1是把$1的值赋值给$1,那鲜明不会改革任何内容,不过这么些动作会公告awk作者纠正了$1的内容,所以再度改良print $0的时候,$0的原委就调换了。
那是一个小技能

1.7.2 记录分隔符-LANDS

凤凰彩票官方app 4

  • awk私下认可情形下每大器晚成行都以多个笔录(record)
  • QX56S既record separator输入输出数据记录分隔符,每生机勃勃行是怎么没的,表示每种记录输入的时候的分隔符,既行与行之间什么分隔。
  • NRubicon既number of record 记录(行)号,表示近日正值管理的笔录(行)的号码。
  • O凯雷德S既output record separator 输出记录分隔符。

awk使用内置变量路虎极光S来存放在输入记录分隔符,WranglerS表示的是输入的笔录分隔符,那几个值能够由此BEGIN模块重新定义改过。

身体力行1-1:使用“/”为暗中认可记录分隔符
亲自去做文件:

[root@chensiqi1 ~]# cat /server/files/awkfile.txt 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
sync:x:5:0:sync:/sbin:/bin/sync
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
halt:x:7:0:halt:/sbin:/sbin/halt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

[root@chensiqi1 ~]# awk 'BEGIN{RS="/"}{print NR,$0}' /server/files/awkfile.txt 
1 root:x:0:0:root:
2 root:
3 bin
4 bash
bin:x:1:1:bin:
5 bin:
6 sbin
7 nologin
daemon:x:2:2:daemon:
8 sbin:
9 sbin
10 nologin
adm:x:3:4:adm:
11 var
12 adm:
13 sbin
14 nologin
lp:x:4:7:lp:
15 var
16 spool
17 lpd:
18 sbin
19 nologin
sync:x:5:0:sync:
20 sbin:
21 bin
22 sync
shutdown:x:6:0:shutdown:
23 sbin:
24 sbin
25 shutdown
halt:x:7:0:halt:
26 sbin:
27 sbin
28 halt
mail:x:8:12:mail:
29 var
30 spool
31 mail:
32 sbin
33 nologin
uucp:x:10:14:uucp:
34 var
35 spool
36 uucp:
37 sbin
38 nologin

命令说明:
在每行的开始先打印输出NR(记录号行号),并打印出每一行$0(整行)的内容。
我们设置RS(记录分隔符)的值为“/”,表示一行(记录)以“/”结束
在awk眼中,文件是从头到尾一段连续的字符串,恰巧中间有些n(回车换行符),n也是字符哦。

咱俩回想下“行(记录)”到底是哪些看头?

  • 行(记录):默认以n(回车换行)截至。而那个行的实现不正是记录分隔符嘛。
  • 据此在awk中,ENCORES(记录分隔符)变量表示着行的终结符号(默许是回车换行)

在职业中,大家能够经过改换EnclaveS变量的值来调节行的终止标识,最后来支配“每行”的内容。
为了方便大家知道,awk私下认可就把RAV4S的值设置为“n”

注意:
awk的BEGIN模块,小编会在前边(形式-BEGIN模块)详细批注,此处大家仅须要理解在BEGIN模块里面我们来定义一些awk内置变量就可以。

1.5.1 格式  

gsub(/要替换的源委/,"替换到什么",替换的某些)

2.5 awk特殊形式-BEGIN情势与END形式

1.7.3 对$0的认识

  • 如1.7.2的事例,能够观望awk中$0表示整行,其实awk使用$0来表示整条记录。记录分隔符存在景逸SUVS变量中,可能说每种记录以汉兰达S内置变量甘休。
  • 别的,awk对每风姿罗曼蒂克行的记录号都有贰个平放变量NEvoque来保存,每管理完一条记下,N索罗德的值就能够自动+1
  • 上边通过演示来加强印象。

示例1-2:NR记录号

[root@chensiqi1 ~]# awk '{print NR,$0}' /server/files/awkfile.txt 
1 root:x:0:0:root:/root:/bin/bash
2 bin:x:1:1:bin:/bin:/sbin/nologin
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
4 adm:x:3:4:adm:/var/adm:/sbin/nologin
5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
6 sync:x:5:0:sync:/sbin:/bin/sync
7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
8 halt:x:7:0:halt:/sbin:/sbin/halt
9 mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
10 uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

命令说明:
NR既number of record,当前记录的记录号,刚开始学也可以理解为行号。
$0表示整行或者说整个记录

1.5.2 接“展现Xiaoyu的捐款.每个值时都有以$伊始.如$520$200$135”那生机勃勃题

[root@zeq files]# awk '{gsub(/:/,"$"); print}' reg.txt       把所有的冒号替换成$

Zhang Dandan    41117397   $250$100$175

Zhang Xiaoyu    390320151  $155$90$201

Meng  Feixue    80042789   $250$60$50

Wu    Waiwai    70271111   $250$80$75

Liu   Bingbing  41117483   $250$100$175

Wang  Xiaoai    3515064655 $50$95$135

Zi    Gege      1986787350 $250$168$200

Li    Youjiu    918391635  $175$75$300

Lao   Nanhai    918391635  $250$100$175

加上条件规范到哪部分

[root@zeq files]# awk '$2~/Xiaoyu/{gsub(/:/,"$"); print $NF}' reg.txt     $NF最后一列

$155$90$201
2.5.1 BEGIN模块

BEGIN模块在awk读取文件以前就执行,平时用来定义大家的松手变量(预约义变量,eg:FS, 福特ExplorerS),可以输出表头(相符excel表格名称)
BEGIN格局以前咱们有在示范中涉及,自定义变量,给内容变量赋值等,都应用过。须求小心的是BEGIN形式前面要接跟二个action操作块,饱含在大括号内。awk必须在对输入文件进行其余管理前先进行BEGIN里的动作(action)。大家得以不要任何输入文件,就能够对BEGIN模块进行测验,因为awk需求先实行完BEGIN格局,才对输入文件做管理.BEGIN方式平日被用来改良内置变量O福睿斯S,中华VS,FS,OFS等的值.

[root@ctg ~]# awk 'BEGIN{FS=":";print "username","UID","password"}NR==1{print $1,$2,$3}' /etc/passwd|column -t
username  UID  password
root      x    0

1.7.4 企业面试题:按单词现身频率降序排序(总括文件中每种单词的重新数量)

注:(此处使用sort与uniq就能够)

题目:

主题素材创设方法:
sed -r '1,10s#[^a-zA-Z]+# #g' /etc/passwd>/server/files/count.txt

[root@chensiqi1 files]# cat /server/files/count.txt 
root x root root bin bash
bin x bin bin sbin nologin
daemon x daemon sbin sbin nologin
adm x adm var adm sbin nologin
lp x lp var spool lpd sbin nologin
sync x sync sbin bin sync
shutdown x shutdown sbin sbin shutdown
halt x halt sbin sbin halt
mail x mail var spool mail sbin nologin
uucp x uucp var spool uucp sbin nologin

思路:

让抱有单词排成一列,那样各类单词都以独自的风流罗曼蒂克行

1)设置OdysseyS值为空格
2)将文件之中的富有空格替换为回车换行符“n”
3)grep全部连接的假名,grep -o参数让他们排成一列。

方法一:

[root@chensiqi1 files]# awk 'BEGIN{RS="[ ]+"}{print $0}' count.txt | sort |uniq -c|sort
      1 
      1 bash
      1 lpd
      2 daemon
      2 lp
      3 adm
      3 halt
      3 mail
      3 root
      3 shutdown
      3 spool
      3 sync
      3 uucp
      4 var
      5 bin
      6 nologin
     10 x
     12 sbin

方法二:

[root@chensiqi1 files]# cat count.txt | tr " " "n" | sort | uniq -c | sort
      1 bash
      1 lpd
      2 daemon
      2 lp
      3 adm
      3 halt
      3 mail
      3 root
      3 shutdown
      3 spool
      3 sync
      3 uucp
      4 var
      5 bin
      6 nologin
     10 x
     12 sbin

方法三:

[root@chensiqi1 files]# grep -o "[a-zA-Z]+" count.txt | sort | uniq -c | sort
      1 bash
      1 lpd
      2 daemon
      2 lp
      3 adm
      3 halt
      3 mail
      3 root
      3 shutdown
      3 spool
      3 sync
      3 uucp
      4 var
      5 bin
      6 nologin
     10 x
     12 sbin

1.6 范围

1、从第1行到第5行内容

awk  'NR==1,NR==5'

2、从富含有个别内容的行到富含有些内容的行

awk  '/内容/,/内容/'

2.5.2 awk中变量的概念简单介绍

 直接定义,直接动用就可以
 awk中字母会被以为是变量,假如确实要给贰个变量赋值字母(字符串),请使用双引号。

1.7.5 awk记录知识小结

  1. NLacrosse寄放着各个记录的号(行号)读取新行时候会活动+1
  2. 瑞虎S是输入数据的笔录的分隔符,老妪能解便是足以钦命每一个记录的末尾标识。
  3. HighlanderS作用就是意味叁个记下的扫尾
  4. 当大家改进了XC90S的值,最佳合作N安德拉(行)来查阅变化,也正是修正了SportageS的值通过NOdyssey查看结果,调试awk程序。
  5. OLX570S输出数据的记录的相间符

awk学习手艺一则:
大象放双门电冰箱分几步?张开双门冰箱,把大象放进去,关闭双门三门电冰箱门。
awk也是千篇黄金时代律的,一步一步来,先改正了福睿斯S,然后用NXC60调节和测量检验,看看毕竟什么分隔的。然后经过sort排序,uniq -c去重

1.6.1 显示从第1行到第5行内容

[root@zeq files]# awk 'NR==1,NR==5' reg.txt

Zhang Dandan    41117397   :250:100:175

Zhang Xiaoyu    390320151  :155:90:201

Meng  Feixue    80042789   :250:60:50

Wu    Waiwai    70271111   :250:80:75

Liu   Bingbing  41117483   :250:100:175
2.6.3 END模式

END在awk读取完全体的文本的时候,再试行END模块,日常用来输出二个结实(累积,数组结果),也足以是和BEGIN模块雷同的最后标志新闻。

[root@ctg test]# awk 'BEGIN{print "hello world"}{print NR,$0}END{print "end of file"}' reg.txt 
hello world
1 Zhang Dandan    41117397     :250:100:175
2 Zhang Xiaoyu    390330151    :155:90:201
3 Meng  Feixue    80042789     :250:60:50
4 Wu    Waiwai    70271111     :250:80:75
5 Liu   Bingbing  41117483     :250:100:175
6 Wang  Xiaoai    3515064655   :50:95:135
7 Zi    Gege      1986787350   :250:168:200
8 Li    Youjiu    918381635    :175:75:300
9 Lao   Nanhai    918391635    :250:100:175
end of file

与BEGIN格局相对应的END情势,格式同样,不过END方式仅在awk处理完全体输入行后才实行管理。

1.7.6 字段(列)

  • 每条记下皆以由八个区域(田野(field))组成的,暗中同意景况下区域之间的相间符是由空格(即空格或制表符)来分隔,何况将分隔符记录在贮存变量FS中,每行记录的区域数保存在awk的停放变量NF中。

凤凰彩票官方app 5

  • FS既田野先生separator,输入字段(列)分隔符。分隔符就是菜刀,把意气风发行字符串切为超多个区域。
  • NF既number of fileds,表示生机勃勃行中列(字段)的个数,能够清楚为菜刀切过后生可畏行后,切成了多少份。

OFS输出字段(列)分隔符

  • awk使用内置变量FS来记录区域分隔符的源委,FS能够在命令行上通过-F参数来改变,也得以因而BEGIN模块来改变。
  • 然后经过$n,n是整数,来取被切割后的区域,$1取第八个区域,$2取第三个区域,$NF取最终一个区域。

上面大家通过示范来增长学习。

亲自过问1-3:钦点分隔符

[root@chensiqi1 files]# awk -F ":" 'NR>=2&&NR<=5{print $1,$3}' /server/files/awkfile.txt 
bin 1
daemon 2
adm 3
lp 4

命令说明:
以:(冒号)为分隔符,显示第2行到第5行之间的第一区域和第三区域。
  • 此间的FS知识四个字符,其实它能够内定多少个的,那个时候FS内定的值能够是三个正则表明式。
  • 好端端意况下,当你钦命分隔符(非空格)的时候,比如钦赐七个区域分隔符,每种分隔符就是风度翩翩把刀,把左右两侧切为八个部分。

商店面试题:与此相同的时候抽取chensiqi和215379068那三个内容(钦赐多分隔符)

[root@chensiqi1 files]# echo "I am chensiqi,my qq is 1234567890">>/server/files/chensiqi.txt
[root@chensiqi1 files]# cat /server/files/chensiqi.txt 
I am chensiqi,my qq is 1234567890

还要抽取chensiqi和1234567890那五个内容。

思路:
咱俩用暗中同意的主见一回使用风度翩翩把刀,必要相称管道的。如何同一时间利用两把刀呢?看下边包车型客车结果

[root@chensiqi1 files]# awk -F "[ ,]" '{print $3,$NF}' /server/files/chensiqi.txt 
chensiqi 1234567890

命令说明:
通过命令-F参数指定区域分隔符
[ ,]是正则表达式里面的内容,它表示一个整体,“一个”字符,既空格或者逗号(,),合并在一起,-F “[ ,]”就表示以空格或者逗号(,)为区域分隔符

小技巧:
在动作(‘{print $3,$NF}’)里面包车型地铁逗号,表示空格,其实动作中的逗号正是OFS的值,大家会在末端表达。刚起头我们把动作中的都逗号,当作空格就能够。

示范:暗许分隔符和点名分隔符会某个差异

[root@chensiqi1 files]# ifconfig eth0 | awk 'NR==2' >/server/files/awkblank.txt
[root@chensiqi1 files]# cat /server/files/awkblank.txt 
          inet addr:192.168.197.133  Bcast:192.168.197.255  Mask:255.255.255.0
#默认分隔符时候
[root@chensiqi1 files]# awk '{print $1}' /server/files/awkblank.txt 
inet
#指定分隔符时候
[root@chensiqi1 files]# awk -F "[ :]+" '{print $1}' /server/files/awkblank.txt 

[root@chensiqi1 files]# awk -F "[ :]+" '{print $2}' /server/files/awkblank.txt 
inet

命令说明:
awk默认的FS分隔符对于空格序列,一个空格或多个空格tab都认为是一样的,一个整体。
  • 其一文件的启幕有相当多三番五次的空格,然后才是inet那个字符
  • 当我们接收私下认可的分隔符的时候,$1是有内容的。
  • 当大家钦点别的分隔符(非空格)时候,区域会怀有转换
  • 究竟为啥会这么,大家在这里处不再深切钻研,只要明白有这种意况,注意一下就能够。

1.6.2 突显包罗Xiaoyu到含有Waiwai的行

[root@zeq files]# awk '/Xiaoyu/,/Waiwai/' reg.txt

Zhang Xiaoyu    390320151  :155:90:201

Meng  Feixue    80042789   :250:60:50

Wu    Waiwai    70271111   :250:80:75

3.1 awk中的动作

 在一个模式-动作语句中,模式决定动作什么时候执行,有时候动作会非常简单:一条单独的打印或赋值语句,在有些时候,动作有可能是多条语句,语句之间用换行符或分号分开。
 awk的动作中如果有两个或两个以上的语句,需要用分号分隔。
 动作部分理解为花括号里面的内容即可,总体分为:

 表达式
 流程序调节制语句
 空语句
 数组

1.7.7 ORS与OFS简介

今后说说O奥迪Q7S和OFS那七个放置变量的意义。

  • TiggoS是输入记录分隔符,决定awk怎么样读取或分隔每行(记录)
  • ORAV4S代表输出记录分隔符,决定awk如何输出风度翩翩行(记录)的,暗中同意是回车换行(n)
  • FS是输入区域分隔符,决定awk读入风度翩翩行后如何再分为七个区域。
  • OFS表示输出区域分隔符,决定awk输出各个区域的时候利用什么分隔她们。
  • awk无比强盛,你能够经过WranglerS,FS决定awk如何读取数据。你也得以透过修改OEnclaveS,OFS的值内定awk怎么样输出数据。

凤凰彩票官方app 6

1.7 相比较表明式

$5>500                第五列大于500

NR>20                 大于第20行的行,20行以后

>  

>=

==

!=                    不等于

<=

< 

4.1 总括从Moto泽部佑到100

[root@ctg ~]# awk '{i+=$1;print i-$1"+"$1"="i}' count.txt 
0+1=1
1+2=3
3+3=6
6+4=10
10+5=15
15+6=21
21+7=28
28+8=36
36+9=45
45+10=55

1.8 字段与记录小结

前些天您应当会对awk的记录字段有所通晓了,下边我们总括一下,学会给阶段性知识总计是学好运行的须求手艺。

凤凰彩票官方app 7

  • 奇骏S记录分隔符,表示每行的了断标记
  • NR行号(记录号)
  • FS字段分隔符,每列的相间标识或结束标记
  • NF正是每行有稍稍列,每种记录中字段的数额
  • $符号表示取某个列(字段),$1$2$NF
  • NF表示记录中的区域(列)数量,$NF取最后贰个列(区域。)
  • FS(-F)字段(列)分隔符,-F(FS)“:”<==>‘BEGIN{FS=':'}’
  • 福特ExplorerS 记录分隔符(行的完工标志)
  • NR 行号
  • 选好合适的刀FS(***),RS,OFS,ORS
  • 相隔符==>甘休标志
  • 记录与区域,你就对我们所谓的行与列,有了新的认知(翼虎S,FS)

1.7.1 查看磁盘音信 df -h

[root@zeq files]# df -h

Filesystem      Size  Used Avail Use% Mounted on

/dev/sda3        19G  7.8G   10G  44% /

tmpfs           491M     0  491M   0% /dev/shm

/dev/sda1       190M   61M  120M  34% /boot

/dev/sdb1       193M  1.8M  181M   1% /data

4.2 awk形式与动作小结:

 awk命令宗旨由方式和动作结合,就是找什么人{干啥}
 方式就是基准,动作正是具体怎么
 正则表明式:必得了然正则,熟稔
 条件表明式:比尺寸,相比较是或不是等于
 范围表明式:从哪儿来到哪个地方支
 注意BEGIN或END模块只可以有三个。BEGIN{}BEGIN恐怕END{}END都是荒诞的。
 找何人干啥模块,能够是多个。
'NR==2{print $1}NR==5{print $0}'
awk -F ":" 'NR==1{print NR,$0}NR==2{print NR,$NF}' awkfile.txt

1.9 awk基础入门计算

到了此间大家回头看看,我们事先学习的剧情。

  • awk的命令行结构
  • awk的形式和动作
  • awk的记录和字段

相比较基本常用的是字段。
此外那几个集团面试题然则学会awk的必不可缺,必须团结也能写出来。

1.7.2 彰显出磁盘使用率大于三成的磁盘分区名称和挂载点(错误表率)

[root@zeq files]# df -h|awk '$5>20{print $1,$NF}'  

Filesystem on

/dev/sda3 /

/dev/sda1 /boot

[root@zeq files]# df -h|awk '$5>9{print $1,$NF}'   这里会默认$5>9是字符串(字母)而不是比较表达

Filesystem on

4.3 awk施行进度

A. 命令行的赋值(-F或-v)

B. 实施BEGIN方式里面包车型客车内容

C. 开端读取文件

D. 判定规范(情势)是或不是成立
确立则实行对应动作里面包车型地铁剧情
读取下大器晚成行,循环判定
真到读取到最终三个文件的最后
E.最终实行END格局里面包车型客车内容
F.结束
思想:

  1. awk核心绪想便是先拍卖,然后END模块输出。(累积(a++;a+=$0),awk数组)
  2. BEGIN模块用于awk内置变量FS,卡宴S的赋值,打字与印刷标题头的音信。(excel表格里面标题行)
    要在awk执行前,定义好。
  3. END模块用来最后输出,总计音讯,awk数组新闻,(累积(a++;a+=$0),awk数组)
  4. 字段(列),记录(行)
    4.4 调节和测量检验工具

    [root@oldboy34-niubility files]# pgawk 'BEGIN{print "i=i+$1"}NR==1{i+=$1;print i-$1"+"$1"="i}' count_lei.txt |head i=i+$1 0+1=1 [root@oldboy34-niubility files]# cat awkprof.out # gawk profile, created Wed Mar 1 17:21:06 2017

    # BEGIN block(s)

    BEGIN {

     1   print "i=i+$1"
    

    }

    # Rule(s)

    100 NR == 1 { # 1

     1   i += $1
     1   print ((i - $1) "+" ($1) "=" i)
    

    }

第2章 awk进阶

1.7.3 化解办法1     钦赐分隔符只保留数字有的

[root@zeq files]# df -h|awk -F"[% ]+" '$5>9{print $1,$NF}'   

Filesystem on

/dev/sda3 /

/dev/sda1 /boot

想要去掉第一列Filesystem on音信

[root@zeq files]# df -h|awk 'NR>1 && $5+0>9{print $1,$NF}'   第1行以后(&&并且)

/dev/sda3 /

/dev/sda1 /boot

4.5 awk数组

处警查房,for(pol in hotel) 查完后pol知道了房屋编号,并精通了此中的内容,

[root@ctg ~]# awk 'BEGIN{hotel[110]="xiaoyu";hotel[119]="tandao";hotel[121]="feixue";for(pol in hotel){print pol,hotel[pol]}}'
110 xiaoyu
121 feixue
119 tandao

2.1 awk格局与动作

接下去就详细介绍下,awk的方式都有两种:

  • 正则说明式作为情势
  • 正如表达式作为形式
  • 界定格局
  • 特殊方式BEGIN和END

awk的格局是你玩好awk的必备也是最基础的源委,必需熟稔通晓

1.7.4 化解格局2    某一列+0

[root@zeq files]# df -h|awk '$5+0>9{print $1,$NF}'    第5列做比较,第5列加0

/dev/sda3 /

/dev/sda1 /boot
小结:

awk数组是解析日志最常用的机能,也是玩转awk必会的一些。

1.awk数组的名字就如商旅的名字相似
2.awk数组的因素名字如同房间编号,房间编号用的常常正是您想要管理的事物,举个例子总括ip地址,比方计算url。能够把ip,url作为房间编号。
3.awk数组的成分的源委宛如室内面住的人,通常正是放的大家想要的结果,或许计算的结果。即把计算结果放在房间中。
4.遇到awk数组的管理平日皆以进展总结,那时大家会把最终的结果在END模块里面输出。
5.输出展现awk数组的结果,正是彰显房间内部的剧情,即查房。
6.awk的查房是通过for(pol in hotel)这种格局来完成的。for表示循环,pol表示警察是一个变量名字,in表示去查房,hotel表示旅社名称,合起来正是警察去商旅查房,查完贰个连任合检查下多少个。
7.在查房进度中pol警察知道房间编号,约等于说pol变量中的内容是房间号码。
8.要看房子中的内容,首先要清楚酒店名称,然后正是房间号码即,hotel[pol]
9.要熟悉运用awk数组在起来的时候将在学会一步一步看awk怎么样施行的就可以。
4.6 公司面试题1

[root@ctg test]# cat www.txt 
http://www.etiantian.org/index.html
http://www.etiantian.org/1.html
http://post.etiantian.org/index.html
http://mp3.etiantian.org/index.html
http://www.etiantian.org/3.html
http://post.etiantian.org/2.html
[root@ctg test]# awk -F/ '{a[$3]++}END{for(i in a)print i}' www.txt 
mp3.etiantian.org
post.etiantian.org
www.etiantian.org
[root@ctg test]# awk -F/ '{a[$3]++}END{for(i in a)print a[i]}' www.txt 
1
2
3
[root@ctg test]# awk -F/ '{a[$3]++}END{for(i in a)print a[i],i}' www.txt 
1 mp3.etiantian.org
2 post.etiantian.org
3 www.etiantian.org
[root@ctg test]# awk -F/ '{a[$3]++}END{for(i in a)print i,a[i]}' www.txt 
mp3.etiantian.org 1
post.etiantian.org 2
www.etiantian.org 3

2.2 正则表明式作为情势

awk同sed同样也能够通过方式相配来对输入的文书实行相称管理。提起方式相称,肯定少不了正则表明式,awk也帮助大气的正则表明式方式,大多数与sed帮衬的元字符相近,并且正则表达式是玩转三刀客的必备工具,下表列出了awk帮忙的正则表明式元字符:

awk暗中认可就帮衬的元字符:

元字符 功能 示例 解释
^ 字符串开头 /^chensiqi/或$3~/^chensiqi/ 匹配所有以chensiqi开头的字符串;匹配出所有第三列中以chensiqi开头的
$ 字符串结尾 /chensiqi$/或$3~/chensiqi$/ 匹配所有以chensiqi结尾的字符串;匹配第三列中以chensiqi结尾的
.(点) 匹配任意但个字符(包括回车符) /c..l/ 匹配字母c,然后两个任意字符,再以l结尾的行
* 重复0个或多个前一个字符 /a*cool/ 匹配0个或多个a之后紧跟着cool的行
+ 重复前一个字符一次或多次 /a+b/ 匹配一个或多个a加上字符串b的行
? 匹配0个或一个前边的字符 /a?b/ 匹配以字母a或b或c开头的行
[] 匹配指定字符组内的任一个字符 /^[abc]/ 匹配以字母a或b或c开头的行
[^] 匹配不在指定字符组内的任一字符 /^[^abc]/ 匹配不以字母a或b或c开头的行
() 子表达式组合 /(chensiqi)+/ 表示一个或多个cool组合,当有一些字符需要组合时,使用括号括起来
| 或者的意思 /(chensiqi)|B/ 匹配chensiqi或字母B的行

awk私下认可不帮忙的元字符:(参数--posix)

元字符 功能 示例 解释
x{m} x字符重复m次 /cool{5}/ 匹配l字符5次
x{m,} x字符重复至少m次 /(cool){2,}/ 匹配cool整体,至少2次
x{m,n} x字符重复至少m次,但不超过n次 /(cool){5,6}/ 匹配cool整体,至少5次,最多6次

提示:

  • 加括号表示全体相当,不加那么就优良前面的一个字符。awk暗许不援助这种样式的正则,必要加--posix参数只怕--re-interval
  • 正则表明式的利用,默许是在行内查找匹配的字符串,若有非常则实行action操作,不过有的时候仅供给固定的列来合作钦定的正则表明式,比如:作者想取/etc/passwd文件中第五列{$5}这一列查找匹配mail字符串的行,那样就须求用此外多个门户格外操作符,并且awk里面唯有那七个操作符来同盟正则表明式。

1.8 特殊格局 BEGIN{}  END{}

1)awk施行的进程

  1.施行命令的参数(赋值) -F -v

     2.BEGIN{} 里面包车型大巴开始和结果 (awk还并未有从头读取文件内容)

     3.读取文件内容

        推断是或不是满意条件(情势)

        切合 实践命令(动作)

        不合乎  读取下风姿洒脱行直到最终大器晚成行

     4.文书内容读取达成后,开头推行END{}里面包车型客车内容

 2)BEGIN{}   里面包车型地铁内容会在 awk读取文件内容后面实施

        1.体现标题

        2.校订awk内置变量 创立变量

           awk 'BEGIN{OFS=:}'  相当于 awk -vOFS=:

        3.测试 计算

3)END{}   awk读取完文件之后 实行

        呈现总计结果

        先计算,END显示结果

4.7 集团面试题2

试验题3.分析图片服务日志,把日志(各种图片访谈次数*图片大小的总量)排行,取top10,约等于精兵简政每一种url的总访谈大小【附加题:加分题】。

负有同学都足以忽视此题答案,学完科目自然就知道了。

证实:本题生产情形应用:那个职能能够用来IDC网址流量带宽相当的高,然后经过深入分析服务器日志哪些因素占用流量过大,进而扩充优化或裁剪该图片,压缩js等办法。

宗旨要求输出多个目的: 【访谈次数】 【访问次数*单个文件大小】 【文件名(能够带UCRUISERL)】

[root@ctg files]# awk 'BEGIN{print "访问次数","文件名","访问次数*单个文件大小"}{i[$7]++}END{for(a in i){print i[a],a,$10*i[a]/1024"k"}}' url.txt |sort -n|column -t
访问次数  文件名                                                  访问次数*单个文件大小
1         /?=                                                     133.535k
1         /mobile/static/common/src/loadingimg.gif                133.535k
1         /mobile/theme/oldboyedu/home/act_28.jpg   133.535k
1         /mobile/theme/oldboyedu/home/6.jpg      133.535k
1         /mobile/theme/oldboyedu/homeplaceholder.jpg     133.535k
1         /online/oldboyeduonlinejaxIndicator.gif        133.535k
1         /static/flex/vedioLoading.swf                           133.535k
1         /static/js/jquery.lazyload.js                           133.535k
1         /static/js/web_js.js                                    133.535k
2         /mobile/theme/oldboyedu/homeoldboy_logo.png     267.07k
2         /staticphotos/2.jpg                             267.07k
3         /mobile/theme/oldboyedu/home/home3.png  400.605k

第一个里程碑-总结url/路线的再度数量。

 [root@oldboy34-niubility files]# awk '{hotel[$7]++}END{for(pol in hotel)print pol,hotel[pol]}' 12ti.txt |sort -rnk2
/mobile/theme/oldboyedu/home/home3.png 3
/staticphotos/2.jpg 2
/mobile/theme/oldboyedu/homeoldboy_logo.png 2
/static/js/web_js.js 1
/static/js/jquery.lazyload.js 1
/static/flex/vedioLoading.swf 1
/online/oldboyeduonlinejaxIndicator.gif 1
/mobile/theme/oldboyedu/homeplaceholder.jpg 1
/mobile/theme/oldboyedu/home/6.jpg 1
/mobile/theme/oldboyedu/home/act_28.jpg 1
/mobile/static/common/src/loadingimg.gif 1
/?= 1
[root@oldboy34-niubility files]# awk '{hotel[$7]++}END{for(pol in hotel)print pol,hotel[pol]}' 12ti.txt |sort -rnk2|column -t
/mobile/theme/oldboyedu/home/home3.png  3
/staticphotos/2.jpg                             2
/mobile/theme/oldboyedu/homeoldboy_logo.png     2
/static/js/web_js.js                                    1
/static/js/jquery.lazyload.js                           1
/static/flex/vedioLoading.swf                           1
/online/oldboyeduonlinejaxIndicator.gif        1
/mobile/theme/oldboyedu/homeplaceholder.jpg     1
/mobile/theme/oldboyedu/home/6.jpg      1
/mobile/theme/oldboyedu/home/act_28.jpg   1
/mobile/static/common/src/loadingimg.gif                1
/?=                                                     1

其次个里程碑-化简难点:

1.jpg 2000
1.jpg 2000
1.jpg 2000

1.jpg 被访谈了3次 *2000 6000
6000=2000+2000+2000

做客次数*单个文件大小 相通的url/路径把相应的$10 大小 实行相加。

扩充相加的时候 房间编号用如何?
$7

[root@oldboy34-niubility files]# awk '{hotel[$7]++;sum[$7]=sum[$7]+$10}' 12ti.txt 
[root@oldboy34-niubility files]# ###两个酒店房间号码一样。
[root@oldboy34-niubility files]# ###想取出两个酒店房间里面的内容。
[root@oldboy34-niubility files]# ###1.酒店名称 hotel  sum
[root@oldboy34-niubility files]# ###2.房间号码 


[root@oldboy34-niubility files]# awk '{hotel[$7]++;sum[$7]=sum[$7]+$10}END{for(pol in hotel) print pol,hotel[pol],sum[pol]    }' 12ti.txt 
/mobile/theme/oldboyedu/home/act_28.jpg 1 31941
/mobile/theme/oldboyedu/homeplaceholder.jpg 1 4722
/mobile/theme/oldboyedu/home/home3.png 3 410220
/?= 1 46232
/online/oldboyeduonlinejaxIndicator.gif 1 0
/mobile/theme/oldboyedu/homeoldboy_logo.png 2 43816
/mobile/static/common/src/loadingimg.gif 1 20246
/static/js/web_js.js 1 4460
/staticphotos/2.jpg 2 22598
/mobile/theme/oldboyedu/home/6.jpg 1 17283
/static/flex/vedioLoading.swf 1 3583
/static/js/jquery.lazyload.js 1 1627
[root@oldboy34-niubility files]# awk '{hotel[$7]++;sum[$7]=sum[$7]+$10}END{for(pol in hotel) print pol,hotel[pol],sum[pol]    }' 12ti.txt |column -t
/mobile/theme/oldboyedu/home/act_28.jpg   1  31941
/mobile/theme/oldboyedu/homeplaceholder.jpg     1  4722
/mobile/theme/oldboyedu/home/home3.png  3  410220
/?=                                                     1  46232
/online/oldboyeduonlinejaxIndicator.gif        1  0
/mobile/theme/oldboyedu/homeoldboy_logo.png     2  43816
/mobile/static/common/src/loadingimg.gif                1  20246
/static/js/web_js.js                                    1  4460
/staticphotos/ 2.jpg                             2  22598
/mobile/theme/oldboyedu/home/6.jpg      1  17283
/static/flex/vedioLoading.swf                           1  3583
/static/js/jquery.lazyload.js                           1  1627

2.2.1 awk正则相配操作符

awk正则相配操作符:
|~|用于对记录或区域的表明式举行相称|
|--|--|
|!~|用于表明与~相反的意趣|

上边依然通超过实际际示例来寻访,awk怎样来经过正则表明式匹配字符串的

1.8.1 总计passwd.txt中假造客商的多少

[root@zeq files]# cat passwd.txt         查看文件虚拟用户为nologin

root:x:0:0:root:/root:/bin/bash

bin:x:1:1:bin:/bin:/sbin/nologin

daemon:x:2:2:daemon:/sbin:/sbin/nologin

adm:x:3:4:adm:/var/adm:/sbin/nologin

lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

sync:x:5:0:sync:/sbin:/bin/sync

shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

halt:x:7:0:halt:/sbin:/sbin/halt

mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

计算数据

[root@zeq files]# awk  '/nologin$/{i=i+1}END{print i}' passwd.txt      i=i+1相当于i++

6
主意风华正茂:初级入学版本:
awk '{count[$7]++;sum[$7]=sum[$7]+$10}END{for(pol in count)print count[pol],sum[pol],pol}' nginx-12.log

2.2.2 awk正则表达式相配整行

[root@chensiqi1 files]# awk -F ":" '/^root/' awkfile.txt 
root:x:0:0:root:/root:/bin/bash

和下边包车型地铁效果与利益是相似的

[root@chensiqi1 files]# awk -F ":" '$0~/^root/' awkfile.txt 
root:x:0:0:root:/root:/bin/bash

提示:

awk只用正则表明式的时候是暗许匹配整行的即‘$0~/^root/’和‘/^root/’是平等的。

1.8.2 总括/etc/services 文件中空行的数量

[root@zeq files]# awk '/^$/{i++}END{print i}' /etc/services

16
形式二:高等只总括图片版本:
awk '$7~/(jpg|jpeg|png|gif)$/{count[$7]++;sum[$7]=sum[$7]+$10}END{for(pol in count)print count[pol],sum[pol],pol}' nginx-12.log

2.2.3 awk正则表明式相配风姿洒脱行中的某一列

[root@chensiqi1 files]# awk -F ":" '$5~/shutdown/' awkfile.txt 
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

提示:

  • $5代表第多少个区域(列)
  • ~表示优越(正则表明式匹配)
  • /shutdown/表示相配shutdown那几个字符串

合併在一块

$5~/shutdown/表示第三个区域(列)相配正则表达式/shutdown/,既第5列包罗shutdown这些字符串,则体现那黄金时代行。

1.9 awk动作

print

gsub 函数 (命令)

变量 计算

办法三:高档只总结图片版本不合算缓存版本。
awk '$7~/(jpg|jpeg|png|gif)$/ && $9 != 304 {count[$7]++;sum[$7]=sum[$7]+$10}END{for(pol in count)print count[pol],sum[pol],pol}' nginx-12.log 

2.2.4 某些区域中的开首和末段

了解了怎么运用正则表达式相称操作符之后,大家来看看awk正则与grep和sed不一样的地点。

awk正则表明式
|^|相配一个字符串的开首|
|--|--|
|$|相配四个字符串的结尾|

在sed和grep那四个指令中,大家都把它们当做行的起来和最终。可是在awk中他表示的是字符串的开始和最终。

接下去我们透过演练题来维系awk怎么样采纳正则表明式。

1.9.1 总计磁盘使用率

[root@zeq files]# df

Filesystem     1K-blocks    Used Available Use% Mounted on

/dev/sda3       19534104 8076500  10458644  44% /

tmpfs             502056       0    502056   0% /dev/shm

/dev/sda1         194241   62009    121992  34% /boot

/dev/sdb1         197209    1813    185003   1% /data

[root@zeq files]# df |awk 'NR>1{print $3/$2}'            

0.413456

0

0.319237

0.00919329
方式四:完全相符题意的答案
awk '$7~/(jpg|jpeg|png|gif)$/ && $9 != 304 {count[$7]++;size[$7]=$10}END{for(pol in count)print count[pol],count[pol]*size[pol],pol}' nginx-12.log 

2.2.5 创造测验情形

[root@chensiqi1 ~]# cat >>/server/files/reg.txt<<KOF
Zhang Dandan    41117397    :250:100:175
Zhang Xiaoyu    390320151   :155:90:201
Meng  Feixue    80042789    :250:60:50
Wu    Waiwai    70271111    :250:80:75
Liu   Bingbing  41117483    :250:100:175
Wang  Xiaoai    3515064655  :50:95:135
Zi    Gege      1986787350  :250:168:200
Li    Youjiu    918391635   :175:75:300
Lao   Nanhai    918391635   :250:100:175
KOF

1.9.2 查看内部存款和储蓄器消息   free    free -h

[root@zeq files]# free

             total       used       free     shared    buffers     cached

Mem:       1004112     806016     198096        236     101452     563232

-/+ buffers/cache:     141332     862780

Swap:       786428        420     786008

第5章 扩展

5.1 分裂split
收取bash的版本号。 范围 变量从哪个地方初阶分割

[root@ctg ~]# bash --version|awk 'NR==1{split($(NF-1),a,"\(");print a[2]}'
1)-release
[root@ctg ~]# bash --version|awk 'NR==1{split($(NF-1),a,"\(");print a[1]}'
[root@ctg ~]# bash --version|awk 'NR==1 {gsub(/-release/,"");{print $4}}'
4.1.2(1)

2.2.6 测量试验文件表达

Zhang Dandan    41117397    :250:100:175
Zhang Xiaoyu    390320151   :155:90:201
Meng  Feixue    80042789    :250:60:50
Wu    Waiwai    70271111    :250:80:75
Liu   Bingbing  41117483    :250:100:175
Wang  Xiaoai    3515064655  :50:95:135
Zi    Gege      1986787350  :250:168:200
Li    Youjiu    918391635   :175:75:300
Lao   Nanhai    918391635   :250:100:175

说明:

  • 先是列是姓氏
  • 其次列是名字
  • 先是列第二列合起来便是真名
  • 其三列是应和的ID号码
  • 最终三列是一次捐款多少

1.9.3 总结种类内部存款和储蓄器的使用率

[root@zeq files]# free |awk '/Mem/{print ($3-$6-$7)/$2}'

0.140705

[root@zeq files]# free|awk 'NR==3{print $3/($3+$4)}'

0.140705

以冒号为分隔符,把/etc/passwd的率先列替换为ABC

[root@yum ~]# awk -F: 'sub($1,"ABC")' /etc/passwd
ABC:x:0:0:root:/root:/bin/bash
ABC:x:1:1:bin:/bin:/sbin/nologin
ABC:x:2:2:daemon:/sbin:/sbin/nologin
ABC:x:3:4:adm:/var/adm:/sbin/nologin
ABC:x:4:7:lp:/var/spool/lpd:/sbin/nologin
ABC:x:5:0:sync:/sbin:/bin/sync
ABC:x:6:0:shutdown:/sbin:/sbin/shutdown
ABC:x:7:0:halt:/sbin:/sbin/halt
ABC:x:8:12:mail:/var/spool/mail:/sbin/nologin
ABC:x:11:0:operator:/root:/sbin/nologin
ABC:x:12:100:games:/usr/games:/sbin/nologin
ABC:x:14:50:FTP User:/var/ftp:/sbin/nologin
ABC:x:99:99:Nobody:/:/sbin/nologin
ABC:x:170:170:Avahi IPv4LL Stack:/var/lib/avahi-autoipd:/sbin/nologin
ABC:x:999:997:systemd Bus Proxy:/:/sbin/nologin
ABC:x:998:996:systemd Network Management:/:/sbin/nologin

[root@yum ~]# awk -F: '$1="ABC"'  /etc/passwd
ABC x 0 0 root /root /bin/bash
ABC x 1 1 bin /bin /sbin/nologin
ABC x 2 2 daemon /sbin /sbin/nologin
ABC x 3 4 adm /var/adm /sbin/nologin
ABC x 4 7 lp /var/spool/lpd /sbin/nologin
ABC x 5 0 sync /sbin /bin/sync
ABC x 6 0 shutdown /sbin /sbin/shutdown
ABC x 7 0 halt /sbin /sbin/halt
ABC x 8 12 mail /var/spool/mail /sbin/nologin
ABC x 11 0 operator /root /sbin/nologin
ABC x 12 100 games /usr/games /sbin/nologin
ABC x 14 50 FTP User /var/ftp /sbin/nologin
ABC x 99 99 Nobody / /sbin/nologin
ABC x 170 170 Avahi IPv4LL Stack /var/lib/avahi-autoipd /sbin/nologin
ABC x 999 997 systemd Bus Proxy / /sbin/nologin

原创作品,请勿转发

2.2.7 awk正则表明式演习题

演练题1:呈现姓Zhang的人的第1回捐款金额及她的名字

幼学壮行题2:呈现Xiaoyu的名字和ID号码

演练题3:展现全部以41始发的ID号码的人的姓名和ID号码

练习题4:显示全部以四个D或X开首的人名全名

分秒必争题5:展现全体ID号码最终一个人数字是1或5的人的姓名

练习题6:展现Xiaoyu的捐款,每一个值都有以$开首。如$520$200$135

鸡鸣而起题7:展现全部人的人名,以姓,名的格式显示,如Meng,Feixue

1.9.4 计算体系内部存款和储蓄器的剩余率

[root@zeq files]# free|awk 'NR==3{print $4/($3+$4)}'

0.859211

2.2.8 awk正则表达式演练题-详解

亲自过问1:展现姓Zhang的人的第二次捐款金额及她的名字

[root@chensiqi1 files]# cat reg.txt 
Zhang Dandan    41117397    :250:100:175
Zhang Xiaoyu    390320151   :155:90:201
Meng  Feixue    80042789    :250:60:50
Wu    Waiwai    70271111    :250:80:75
Liu   Bingbing  41117483    :250:100:175
Wang  Xiaoai    3515064655  :50:95:135
Zi    Gege      1986787350  :250:168:200
Li    Youjiu    918391635   :175:75:300
Lao   Nanhai    918391635   :250:100:175
[root@chensiqi1 files]# awk -F "[ :]+" '$1~/^Zhang/{print $2,$(NF-1)}' reg.txt 
Zhang 100
Zhang 90

说明:

  • -F钦赐分隔符,今后大家知道了-F即FS也是扶助正则表明式的。
  • 【 :】+ 表示一连的空格或冒号
  • -F “【 :】+” 以一而再的空格或冒号为分隔符
  • /Zhang/表示原则,整行中含有Dan字符的那么些准绳。
  • {print $1,$(NF-1)} 表示动作,知足条件后,推行突显第一列($1)和尾数第二列($(NF-1))当然$5也得以。

注意:
NF是单排中有稍许列,NF-1整行正是最后几个第二列。
$(NF-1)便是取尾数第二列内容。

亲自过问2:显示Xiaoyu的姓氏和ID号码

[root@chensiqi1 files]#cat reg.txt  
Zhang Dandan    41117397    :250:100:175
Zhang Xiaoyu    390320151   :155:90:201
Meng  Feixue    80042789    :250:60:50
Wu    Waiwai    70271111    :250:80:75
Liu   Bingbing  41117483    :250:100:175
Wang  Xiaoai    3515064655  :50:95:135
Zi    Gege      1986787350  :250:168:200
Li    Youjiu    918391635   :175:75:300
Lao   Nanhai    918391635   :250:100:175
[root@chensiqi1 files]# awk -F "[ :]+" '$2~/^Xiaoyu/{print $1,$3}' reg.txt 
Zhang 390320151

命令说明:
指定分隔符-F “【:】+”
$2~/Xiaoyu/表示条件,第二列包含Xiaoyu时候执行对应的动作
{print $1,$3}表示动作,显示第一列和第三列的内容

亲自去做3:突显全体以41发端的ID号码的人的全名和ID号码

[root@chensiqi1 files]# cat reg.txt 
Zhang Dandan    41117397    :250:100:175
Zhang Xiaoyu    390320151   :155:90:201
Meng  Feixue    80042789    :250:60:50
Wu    Waiwai    70271111    :250:80:75
Liu   Bingbing  41117483    :250:100:175
Wang  Xiaoai    3515064655  :50:95:135
Zi    Gege      1986787350  :250:168:200
Li    Youjiu    918391635   :175:75:300
Lao   Nanhai    918391635   :250:100:175
[root@chensiqi1 files]# awk -F "[ :]+" '$3~/^(41)/{print $1,$2,$3}' reg.txt 
Zhang Dandan 41117397
Liu Bingbing 41117483  

示例4:展现全体以二个D或X最先的全名全名

[root@chensiqi1 files]# cat reg.txt 
Zhang Dandan    41117397    :250:100:175
Zhang Xiaoyu    390320151   :155:90:201
Meng  Feixue    80042789    :250:60:50
Wu    Waiwai    70271111    :250:80:75
Liu   Bingbing  41117483    :250:100:175
Wang  Xiaoai    3515064655  :50:95:135
Zi    Gege      1986787350  :250:168:200
Li    Youjiu    918391635   :175:75:300
Lao   Nanhai    918391635   :250:100:175
[root@chensiqi1 files]# awk -F "[ :]+" '$2~/^D|^X/{print $1,$2}' reg.txt 
Zhang Dandan
Zhang Xiaoyu
Wang Xiaoai

命令说明:
-F “【 :】+”指定分隔符
|表示或,^以...开头

注意:
此地要用()括号表示即^(D|X)相当于^D|^X,有的同学写成^D|X那样是荒诞的。

身体力行5:展现全数ID号码最终一位数字是1或5的人的真名

[root@chensiqi1 files]# cat reg.txt 
Zhang Dandan    41117397    :250:100:175
Zhang Xiaoyu    390320151   :155:90:201
Meng  Feixue    80042789    :250:60:50
Wu    Waiwai    70271111    :250:80:75
Liu   Bingbing  41117483    :250:100:175
Wang  Xiaoai    3515064655  :50:95:135
Zi    Gege      1986787350  :250:168:200
Li    Youjiu    918391635   :175:75:300
Lao   Nanhai    918391635   :250:100:175
[root@chensiqi1 files]# awk -F "[ :]+" '$3~/1$|5$/{print $1,$2}' reg.txt 
Zhang Xiaoyu
Wu Waiwai
Wang Xiaoai
Li Youjiu
Lao Nanhai

示例6:突显Xiaoyu的捐款,每种值都有以$起初。如$520$200$135

[root@chensiqi1 files]# cat reg.txt 
Zhang Dandan    41117397    :250:100:175
Zhang Xiaoyu    390320151   :155:90:201
Meng  Feixue    80042789    :250:60:50
Wu    Waiwai    70271111    :250:80:75
Liu   Bingbing  41117483    :250:100:175
Wang  Xiaoai    3515064655  :50:95:135
Zi    Gege      1986787350  :250:168:200
Li    Youjiu    918391635   :175:75:300
Lao   Nanhai    918391635   :250:100:175
[root@chensiqi1 files]# awk -F "[ :]+" '$2~/Xiaoyu/{print "$"$4"$"$5"$"$6}' reg.txt 
$155$90$201

示例7:展现全体人的姓名,以姓,名的格式展现,如Meng,Feixue

[root@chensiqi1 files]# cat reg.txt 
Zhang Dandan    41117397    :250:100:175
Zhang Xiaoyu    390320151   :155:90:201
Meng  Feixue    80042789    :250:60:50
Wu    Waiwai    70271111    :250:80:75
Liu   Bingbing  41117483    :250:100:175
Wang  Xiaoai    3515064655  :50:95:135
Zi    Gege      1986787350  :250:168:200
Li    Youjiu    918391635   :175:75:300
Lao   Nanhai    918391635   :250:100:175
[root@chensiqi1 files]# awk -F "[ ]+" '{print $1","$2}' reg.txt 
Zhang,Dandan
Zhang,Xiaoyu
Meng,Feixue
Wu,Waiwai
Liu,Bingbing
Wang,Xiaoai
Zi,Gege
Li,Youjiu
Lao,Nanhai

1.9.5 设置变量总计系列内部存款和储蓄器的使用率和剩余率

 [root@zeq files]# free|awk 'NR==3{sum=$3+$4;print $3/sum,$4/sum}'    sum为变量

0.140765 0.859235

2.2.9 企业面试题:收取网卡eth0的ip地址

最简单:hostname -I

awk处理:

方法一:

[root@chensiqi1 files]# ifconfig eth0|awk 'BEGIN{RS="[ :]"}NR==31'
192.168.197.133

方法二:

[root@chensiqi1 files]# ifconfig eth0 | awk -F "(addr:)|( Bcast:)" 'NR==2{print $2}'
192.168.197.133 

方法三:

[root@chensiqi1 files]# ifconfig eth0 | awk -F "[ :]+" 'NR==2{print $4}'
192.168.197.133

方法四:

[root@chensiqi1 files]# ifconfig eth0 | awk -F "[^0-9.]+" 'NR==2{print $2}'
192.168.197.133

提示:

  • 近些日子的二种格局都仍然相比好精晓的,那第八种办法,供给学会逆向思维,看看大家要的结果10.0.0.50,ip地址:数字和点(.),小编是不是足以内定分隔符,以数字和点以外的字符为分隔符呢?
  • 换句话说便是要驱除数字和点(.)正则表明式与消逝常用的正是[^0-9.]即不宽容数字和点(.)
  • 最后-F “[^0-9]”位分隔符,不过要接受+,表示接二连三的。合起来正是:awk -F “[^0-9.]+” 'NR==2{print $2}'

注意:
正则表达式是玩好awk的供给条件,必会精通

2.2.10 一目精晓扩大正则表达式:+(加号)

[root@chensiqi1 files]# echo "------======1########2"
------======1########2
[root@chensiqi1 files]# echo "------======1########2" | grep "[-=#]"
------======1########2
[root@chensiqi1 files]# echo "------======1########2" | grep -o "[-=#]"
-
-
-
-
-
-
=
=
=
=
=
=
#
#
#
#
#
#
#
#

2.2.11 awk正则之{} -花括号

awk中的花括号有一些一时用,可是不常会用到这里差不离介绍。

示例:抽出awkfile中首先列包蕴贰个o可能多少个o的行

[root@chensiqi1 files]# awk -F: '$1~/o{1,2}/' awkfile.txt 
[root@chensiqi1 files]# awk -F: --posix '$1~/o{1,2}/' awkfile.txt 
root:x:0:0:root:/root:/bin/bash
daemon:x:2:2:daemon:/sbin:/sbin/nologin
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
[root@chensiqi1 files]# awk -F: --re-interval '$1~/o{1,2}/' awkfile.txt 
root:x:0:0:root:/root:/bin/bash
daemon:x:2:2:daemon:/sbin:/sbin/nologin
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

2.2.12 企业案例1:抽取常用服务端口号

思路:
linux下边服务与端口音信的对应表格在/etc/services里面,所以那道题要管理/etc/services文件。

我们简要深入分析以下servics文件:

[root@chensiqi1 ~]# sed -n '23,30p' /etc/services
tcpmux          1/tcp                           # TCP port service multiplexer
tcpmux          1/udp                           # TCP port service multiplexer
rje             5/tcp                           # Remote Job Entry
rje             5/udp                           # Remote Job Entry
echo            7/tcp
echo            7/udp
discard         9/tcp           sink null
discard         9/udp           sink null

从23行开端基本上每生机勃勃行首先列是劳动名称,第二列的率先片段是端口号,第二列的第二部分是tcp或udp公约。

凤凰彩票官方app,方法:

[root@chensiqi1 ~]# awk -F "[ /]+" '$1~/^(ssh)$|^(http)$|^(https)$|^(mysql)$|^(ftp)$/{print $1,$2}' /etc/services |sort|uniq
ftp 21
http 80
https 443
mysql 3306
ssh 22

提示:

  • |是或然的意思,正则表达式
  • sort是将出口结果排序
  • uniq是去重新但不标识重复个数
  • uniq -c去重新但标记重复个数

2.2.13 集团案例2:抽出常用服务端名称

校友们自个儿尝尝下

2.3 相比表明式做为形式-必要有个别例证

事先大家看了正则表明式在awk下的运用,上边再具体看六柱预测比较表明式怎么着在awk下办事。

awk是风姿洒脱种编制程序语言,可以举行更进一竿复杂的论断,当条件为真时候,awk就施行有关的action。首假使本着某大器晚成区域做出相关的论断,比如打字与印刷战表在80分以上的行,那样就亟须对那大器晚成区域做相比推断,下表列出了awk能够选取的涉嫌运算符,能够用来相比数字字符串,还应该有正则表明式。当表明式为真时候,表明式结果1,否0,唯有表明式为真,awk才实践相关的action

运算符 含义 示例
< 小于 x>y
<= 小于等于 x<=y
== 等于 x==y
!= 不等于 x!=y
>= 大于或等于 x>=y
> 大于 x<y

以上运算符是针对性数字的,上边八个运算符早先原来就有示范,针对字符串

~ 与正则表达式匹配 x~/y/
!~ 与正则表达式不匹配 x!~y

2.3.1 公司面试题:收取文件/etc/services的23~30行

思路:
想表示一个范围,二个行的限量,将在动用NEscort这一个放手变量了,同有的时候候也要用到比较表明式。

答案:

[root@www ~]# awk 'NR>=23&&NR<=30' /etc/services
[root@www ~]# awk 'NR>22&&NR<31' /etc/services

过程:

[root@www ~]# awk 'NR>=23&&NR<=30' /etc/services
tcpmux          1/tcp                           # TCP port service multiplexer
tcpmux          1/udp                           # TCP port service multiplexer
rje             5/tcp                           # Remote Job Entry
rje             5/udp                           # Remote Job Entry
echo            7/tcp
echo            7/udp
discard         9/tcp           sink null
discard         9/udp           sink null
[root@www ~]# awk 'NR>22&&NR<31' /etc/services
tcpmux          1/tcp                           # TCP port service multiplexer
tcpmux          1/udp                           # TCP port service multiplexer
rje             5/tcp                           # Remote Job Entry
rje             5/udp                           # Remote Job Entry
echo            7/tcp
echo            7/udp
discard         9/tcp           sink null
discard         9/udp           sink null

说明:
1)相比表明式相比较常用的要么代表大于等于,小于等于依旧等于,依照这么些事例来上学就可以
2)N瑞鹰表示行号,大于等于23即,N库罗德>=23稍差于等于30,即N中华V<=30
3)合起来就是NRubicon>=23同临时候NTiguan<=30,&&表示还要,相同的时间营造的意味。
4)换豆蔻梢头种表明式方法便是出乎22行小于31行,即N奥迪Q3>22&&N哈弗<31

2.3.2 如若判别某一列是还是不是等于有些字符呢?

示范:找寻/etc/passwd中第五列是root的行

测量检验文件:

[root@www ~]# cat /server/files/awk_equal.txt
root:x:0:0:root:/root:/bin/bash
root:x:0:0:rootroot:/root:/bin/bash
root:x:0:0:rootrooot:/root:/bin/bash
root:x:0:0:rootrooot:/root:/bin/bash
root:x:0:0:/root:/bin/bash

答案:

awk -F":" '$5=="root"' /server/files/awk_equal.txt 
awk -F":" '$5~/^root$/' /server/files/awk_equal.txt 

过程:

#方法一:
[root@www ~]# awk -F":" '$5=="root"' /server/files/awk_equal.txt 
root:x:0:0:root:/root:/bin/bash
#方法二:
[root@www ~]# awk -F":" '$5~/^root$/' /server/files/awk_equal.txt 
root:x:0:0:root:/root:/bin/bash

我们假诺想要完全相配root这些字符串,那就用$5=="root"就能够,那也是答案里面给大家的。

方法二:
此题也可透过正则相配来约束root的字符串。$5~/^root$/

2.4 范围格局

pattern1 pattern2
从哪里来 哪里去
条件1 条件2
  • 界定格局大约明了就是从哪个地方来,到哪儿去。
  • 合营从规范1始发到条件2介绍的界定

1)还记得sed使用地方范围来拍卖文件内容嘛?awk的约束形式,与sed相近,不过又有例外,awk无法直接使用行号来作为限定起头地址,因为awk具备内置变量NCR-V来存款和储蓄记录号,全数要求采取N大切诺基=1,N奥德赛=5那样来利用。
2)约束情势管理的尺度是:先相配从第三个格局的第贰回面世到第一个格局的第1回现身之间的剧情,推行action。然后相称从第三个情势的下二遍现身到第二个情势的下三回面世,直到文本甘休。假如合作到第叁个方式而从未匹配到第二个方式,则awk管理从第一个格局伊始直到文本停止全部的行。假设第多个格局不相配,即使第2个方式相称,awk依旧不管理其余行。

awk '/start pos/,/end pos/{print $)} passwd chensiqi'
awk '/start pos/,NR==XXX{print $0}' passwd chensiqi

界定情势的时候,范围条件的时候,表明式必须能相称大器晚成行。

示例1:

[root@www files]# awk 'NR==2,NR==5{print NR,$0}' count.txt 
2 bin x bin bin sbin nologin
3 daemon x daemon sbin sbin nologin
4 adm x adm var adm sbin nologin
5 lp x lp var spool lpd sbin nologin

说明:
规格是:从第二行,到第五行
动作是:呈现行号(N途胜)和整行($0)
合起来即是展现第二行到第五行的行好和整行的内容

示例2:

[root@www files]# awk '/^bin/,NR==5{print NR,$0}' awkfile.txt 
2 bin:x:1:1:bin:/bin:/sbin/nologin
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
4 adm:x:3:4:adm:/var/adm:/sbin/nologin
5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

说明:
规范是:从以bin开始的行,到第五行
动作是:显示行号和整行内容
合起来正是呈现从以bin最初的行,到第五行中的行号和整行内容。

示例3:

[root@www files]# awk -F":" '$5~/^bin/,/^lp/{print NR,$0}' awkfile.txt
2 bin:x:1:1:bin:/bin:/sbin/nologin
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
4 adm:x:3:4:adm:/var/adm:/sbin/nologin
5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

说明:
准绳:从第五列以bin初步的行到以lp起头的行
动作:呈现行号和正航内容
合起来:从第三列以bin开端的行到以lp初步的行并呈现其行号和整行内容

[root@www files]# awk -F: '$5~/^bin/,$5~/^lp/{print NR,$0}' awkfile.txt 
2 bin:x:1:1:bin:/bin:/sbin/nologin
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
4 adm:x:3:4:adm:/var/adm:/sbin/nologin
5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

说明:
规范:从第三列以bin开始字符串的行到第三列以lp最先字符串的行
动作:展现行号和整行

2.5 awk特殊格局-BEGIN情势与END格局

  • BEGIN模块再awk读取文件以前就履行,平时用来定义我们的放到变量(预订义变量,eg:FS,兰德ENCORES),可以出口表头(相同excel表格名称)
  • BEGIN方式在此以前大家有在演示中提到,自定义变量,给内容变量赋值等,都应用过。要求介意的是BEGIN情势后边要接跟一个action操作块,富含在大括号内。awk必需在输入文件进行别的管理前施夷光行BEGIN里的动作(action)。大家能够不要别的输入文件,就足以对BEGIN模块进行测量试验,因为awk须求先实行完BEGIN方式,才对输入文件做处理。BEGIN格局平时被用来改过内置变量OCRUISERS,科雷傲S,FS,OFS等值。

2.5.1 BEGIN模块

1)第叁个作用,内置变量的定义

示例:取eth0的IP地址

答案:

[root@www files]# ifconfig eth0|awk -F "(addr:)|( Bcast:)" 'NR==2{print $2}'
192.168.197.133 
[root@www files]# ifconfig eth0 | awk -F "[ :]+" 'NR==2{print $4}'
192.168.197.133
[root@www files]# ifconfig eth0 | awk -F "[^0-9.]+" 'NR==2{print $2}'
192.168.197.133

#上面的也可以写成
[root@www files]# ifconfig eth0 | awk 'BEGIN{FS="(addr:)|( Bcast:)"} NR==2{print $2}'
192.168.197.133 
[root@www files]# ifconfig eth0 | awk 'BEGIN{FS="[ :]+"}NR==2{print $4}'
192.168.197.133
[root@www files]# ifconfig eth0 | awk 'BEGIN{FS="[^0-9.]+"}NR==2{print $2}'
192.168.197.133

注意:
指令行-F本质正是改革的FS变量

2)第一个效果与利益,在读取文件之前,输出些提醒性音讯(表头)。

[root@www files]# awk -F: 'BEGIN{print "username","UID"}{print $1,$3}' awkfile.txt 
username UID   #这就是输出的表头信息
root 0
bin 1
daemon 2
adm 3
lp 4
sync 5
shutdown 6
halt 7
mail 8
uucp 10

说明:
要在首先行输出一些username和UID,我们相应想到BEGIN{}那几个特殊的基准(格局),因为BEGIN{}在awk读取文件此前奉行的。
故而结果是BEGIN{print "username","UID"},注意print命令里面双引号吃吗吐什么,原样输出。
下一场大家达成了在输出文件内容前边输出“username”和“UID”,下一步输出文件的第一列和第三列即{print $1,$3}
终极结果正是BEGIN{print "username","UID"}{print $1,$3}

3)第两个效果与利益,使用BEGIN模块的例外性能,进行一些测验。

[root@www files]#简单输出内容:
[root@www files]# awk 'BEGIN{print "hello world!"}'
hello world!
[root@www files]# #进行计算
[root@www files]# awk 'BEGIN{print 10/3}'
3.33333
[root@www files]# awk 'BEGIN{print 10/3+1}'
4.33333
[root@www files]# awk 'BEGIN{print 10/3+1/4*9}'
5.58333
[root@www files]# #和变量有关的操作
[root@www files]# awk 'BEGIN{a=1;b=2;print a,b}'
1 2
[root@www files]# awk 'BEGIN{a=1;b=2;print a,b,a+b}'
1 2 3

4)第多种用法:合作getline读取文件,后边awk函数处上课

2.5.2 awk中变量的概念简要介绍

  • 直白定义,间接动用就能够
  • awk中字母会被认为是变量,假设确实要给三个变量赋值字母(字符串),请使用双引号
[root@chensiqi files]# awk 'BEGIN{a=abcd;print a}'

[root@chensiqi files]# awk 'BEGIN{abcd=123456;a=abcd;print a}'
123456
[root@chensiqi files]# awk 'BEGIN{a="abcd";print a}'
abcd

说明:
不曾公文awk依然可以管理BEGIN形式下的动作(命令)

2.5.3 END模块

EHD在awk读取完全部的文本的时候,再实践END模块,日常用来输出叁个结实(累计,数组结果),也足以是和BEGIN模块近似的最后标志新闻

[root@chensiqi files]# awk 'BEGIN{print "hello world!"}{print NR,$0}END{print "end of file"}' count.txt 
hello world!
1 root x root root bin bash
2 bin x bin bin sbin nologin
3 daemon x daemon sbin sbin nologin
4 adm x adm var adm sbin nologin
5 lp x lp var spool lpd sbin nologin
6 sync x sync sbin bin sync
7 shutdown x shutdown sbin sbin shutdown
8 halt x halt sbin sbin halt
9 mail x mail var spool mail sbin nologin
10 uucp x uucp var spool uucp sbin nologin
end of file

与BEGIN情势相对应的END情势,格式相符,不过END方式仅在awk管理完全体输入行后才进行处理。

商店案例:计算/etc/servies文件里的空行数量

思路:
a)空行通过正则表明式来促成:^$
b)计算数据:

  • grep -c
  • awk

方法一:grep

[root@chensiqi files]# grep "^$" /etc/services | wc -l
16
[root@chensiqi files]# grep -c "^$" /etc/services
16

说明:
grep命令-c表示count计数统计包含^$的行一共有多少。

方法二:

[root@chensiqi files]# awk '/^$/{i++}END{print i}' /etc/services 
16

提示:
运用了awk的本事作用,很常用
先是步:计算空行个数
/^$/意味着原则,相配出空行,然后施行{i++}(i++等于i=i+1)即:/^$/{i=i+1}

我们得以经过/^$/{i=i+1;print i}来查阅awk实践进度

[root@chensiqi files]# awk '/^$/{i=i+1;print "the value of i is:"i}' /etc/services 
the value of i is:1
the value of i is:2
the value of i is:3
the value of i is:4
the value of i is:5
the value of i is:6
the value of i is:7
the value of i is:8
the value of i is:9
the value of i is:10
the value of i is:11
the value of i is:12
the value of i is:13
the value of i is:14
the value of i is:15
the value of i is:16

其次步:输出最终结果

  • 而是咱们只想要最终的结果16,不想要进度如何做?使用END格局输出结果
  • 因为END格局的分歧常常品质所以很符合输出最终结出

进而最终结出正是awk '/^$/{i=i+1}END{print "blank lines count:"i}' /etc/services

awk编制程序思想:

  1. 先管理,最后再END模块输出
  2. {print NR,$0}body模块管理,管理完成后
  3. END{print "end of file"}出口三个结实

商场面试题5:文件count.txt,文件内容是1到100(由seq 100变迁),请计算文件每行值加起来的结果(计算1+...+100)

思路:
文本每生龙活虎行都有且独有八个数字,所以大家要让文件的每行内容相加。
回想一下上后生可畏道题大家用的是i++即i=i+1
那边大家供给利用到第一个常用的表明式
i=i+$0

比较一下,其实只是把上边的1换来了$0

[root@chensiqi files]# awk '{i=i+$0}END{print i}' count.txt 
5050

2.6 awk中的动作

在贰个格局-动作语句中,格局决定动作如哪一天候实施,有的时候候动作会极其轻巧:一条单独的打字与印刷或赋值语句。在有一些时候,动作有希望是多条语句,语句之间用换行符或分行分开。
awk的动作中只要有八个或三个以上的说话,供给用分号分隔
动作部分大家领会为花括号内部的原委就可以,总体分为:

  • 表达式
  • 流程序调整制语句
  • 空语句
  • 数组(现在固然一时间的话会再写一个awk高档部分开展介绍)

2.7 awk格局与动作小结

  • awk命令大旨由方式和动作结合
  • 方式正是标准化,动作就是具体怎么
    1)正则表达式:必得调整正则,熟习
    2)条件表明式:比尺寸,相比较是还是不是等于
    3)范围表明式:从哪个地方来到哪儿去
  • 留意BEGIN或END模块只好有多少个。BEGIN{}BEGIN{}只怕END{}END{}都以大谬不然的。

2.8 计算awk施行过程

追思一下awk的布局

awk -F 钦赐分隔符 ‘B福特ExplorerGIN{}END{}’,如下图

凤凰彩票官方app 8

#awk完整执行过程
[root@chensiqi ~]# awk -F ":" 'BEGIN{RS="/";print "hello world!"}{print NR,$0}END{print "end of file"}' /server/files/awkfile.txt 
hello world!
1 root:x:0:0:root:
2 root:
3 bin
4 bash
bin:x:1:1:bin:
5 bin:
6 sbin
7 nologin
daemon:x:2:2:daemon:
8 sbin:
9 sbin
10 nologin
adm:x:3:4:adm:
11 var
12 adm:
13 sbin
14 nologin
lp:x:4:7:lp:
15 var
16 spool
17 lpd:
18 sbin
19 nologin
sync:x:5:0:sync:
20 sbin:
21 bin
22 sync
shutdown:x:6:0:shutdown:
23 sbin:
24 sbin
25 shutdown
halt:x:7:0:halt:
26 sbin:
27 sbin
28 halt
mail:x:8:12:mail:
29 var
30 spool
31 mail:
32 sbin
33 nologin
uucp:x:10:14:uucp:
34 var
35 spool
36 uucp:
37 sbin
38 nologin

end of file

说明:
大家·同有的时候候再命令行定义了分隔符和在BEGIN格局中定义了HighlanderS内置变量,在终极经过END情势输出了结果

2.9 awk数组

awk提供了数组来存放在风流倜傥组有关的值。
awk是生龙活虎种编制程序语言,确定也支撑数组的接受,可是又区别于c语言的数组。数组在awk中被可以称作关联数组,因为它的下标不只能够是数字也能够是字符串。下标常常被称作key,何况与相应的数组成分的值关联。数组成分的key和值都存款和储蓄在awk程序内部的一张表中,通过一定散列算法来积累,所以数组成分都不是按顺序存款和储蓄的。打字与印刷出来的各样也自然不是安分守己一定的逐个,可是大家能够通过管道来对所需的多少再一次操作来完成本身的效果。

凤凰彩票官方app 9

如图轻便窥见,awk数组就和旅舍同生龙活虎。数组的称号好似旅舍名称,数组成分名称好似酒馆房间号码,每一种数组成分里面包车型地铁原委犹如酒店房内面的人。

2.10 图片-数组

假诺大家有一个舞厅

酒店<===>chensiqihotel

歌舞厅里面有多少个房间110,119,120,114那多少个房屋

酒店110房间<===>chensiqihotel[110]
酒店120房间<===>chensiqihotel[120]
酒店119房间<===>chensiqihotel[119]
酒店114房间<===>chensiqihotel[114]

歌厅房间内部入住客人

酒店110房间住着xiaoyu<===>chensiqihotel[110]="xiaoyu"
酒店119房间住着ruxue<===>chensiqihotel[119]="ruxue"
酒店120房间住着dandan<===>chensiqihotel[120]="dandan"
酒店114房间住着waiwai<===>chensiqihotel[114]="waiwai"

示例:

[root@chensiqi ~]# awk 'BEGIN{chensiqihotel[110]="xiaoyu";chensiqihotel[119]="ruxue";chensiqihotel[120]="dandan";chensiqihotel[114]="waiwai";print chensiqihotel[110],chensiqihotel[119],chensiqihotel[120],chensiqihotel[114]}'
xiaoyu ruxue dandan waiwai

[root@chensiqi ~]# awk 'BEGIN{chensiqihotel[110]="xiaoyu";chensiqihotel[119]="ruxue";chensiqihotel[120]="dandan";chensiqihotel[114]="waiwai";for(hotel in chensiqihotel)print hotel,chensiqihotel[hotel]}'
110 xiaoyu
120 dandan
114 waiwai
119 ruxue

公司面试题1:计算域名访谈次数

拍卖以下文件内容,将域名抽出并依据域名实行计数排序管理:(百度和sohu面试题)

http://www.etiantian.org/index.html
http://www.etiantian.org/1.html
http://post.etiantian.org/index.html
http://mp3.etiantian.org/index.html
http://www.etiantian.org/3.html
http://post.etiantian.org/2.html

思路:
1)以斜线为菜刀抽取第二列(域名)
2)创设一个数组
3)把第二列(域名)作为数组的下标
4)通过相像于i++的款型举办计数
5)总计后把结果输出

进度演示:
率先步:查看一下剧情

[root@chensiqi ~]# awk -F "[/]+" '{print $2}' file 
www.etiantian.org
www.etiantian.org
post.etiantian.org
mp3.etiantian.org
www.etiantian.org
post.etiantian.org

命令说明:
这是我们需要计数的内容

第二步:计数

[root@chensiqi ~]# awk -F "[/]+" '{i++;print $2,i}' file 
www.etiantian.org 1
www.etiantian.org 2
post.etiantian.org 3
mp3.etiantian.org 4
www.etiantian.org 5
post.etiantian.org 6

命令说明:
i++:i最开始是空的,当awk读取一行,i自身+1

其三步:用数组替换i

[root@chensiqi ~]# awk -F "[/]+" '{h[$2]++;print $2,h["www.etiantian.org"]}' file 
www.etiantian.org 1
www.etiantian.org 2
post.etiantian.org 2
mp3.etiantian.org 2
www.etiantian.org 3
post.etiantian.org 3

命令说明:
1)将i替换成h[$2];相当于我创建了一个数组h[],然后用$2作为我的房间号。但是目前房间里是没有东西的。也就是说h[$2]=h["www.etiantian.org"] and h["post.etiantian.org"] and h["mp3.etiantian.org"] 但是具体房间里是没有东西的也就是空。
2)h[$2]++就等于i++:也就是说我开始给房间里加东西;当出现同样的东西,我就++
3)print h["www.etiantian.org"]:意思就是说我开始要输出了。我要输出的是房间号为“www.etiantian.org”里面的内容。这里面的内容最早是空的,随着awk读取每一行一旦出现房间号为“www.etiantian.org”的房间时,我就给房间里的内容进行++。
4)综上,输出的结果中,每次出现www.etiantian.org时,h["www.etiantian.org"]就会++。因此最后的输出数字是3

第四步:输出最后计数结果

[root@chensiqi ~]# awk -F "[/]+" '{h[$2]++}END{for(i in h)print i,h[i]}' file 
mp3.etiantian.org 1
post.etiantian.org 2
www.etiantian.org 3
[root@chensiqi ~]# 

命令说明:
我们最终需要输出的是去重复以后的统计结果,所以得在END模块里进行输出
for(i in h)遍历这个数组,i里存的都是房间号
print i,h[i]:输出每一个房间号及其房间里的内容(计数结果)

提示:
awk的运用里最根本的二个功能正是计数,而数组在awk里最大的机能便是去重新。请同学们留神掌握,多入手试验须臾间。

编辑:凤凰彩票官方app 本文来源:linux三剑客之awk精讲,Linux三杀手之awk最好实行

关键词: