当前位置: 首页 > news >正文

正则表达式与grep文本过滤详解

文章目录

  • 前言
  • 一、正则表达式概述
    • 1.1 定义
    • 1.2 主要用途
    • 1.3 Linux 中的正则表达式分类
      • 1.3.1 基础正则表达式(BRE)
      • 1.3.2 扩展正则表达式(ERE)
  • 二、正则表达式的基本组成
    • 2.1 普通字符
    • 2.2 元字符
      • 2.2.1 基本元字符
      • 2.2.2 重复次数相关
      • 2.2.3 扩展正则中的元字符(ERE)
      • 2.2.4 `egrep`的用法
  • 三、grep 工具的使用
    • 3.1 常用选项
    • 3.2 使用示例
  • 四、正则表达式操作案例
    • 4.1 查找特定字符
    • 4.2 使用中括号集合
    • 4.3 使用定位符
    • 4.4 使用点与星号
    • 4.5 使用次数限定符
  • 五、基础正则与扩展正则对比表
  • 总结
    • 🎯 核心价值
    • 📊 体系结构
    • ⚡ 四大核心能力
    • 🛠️ 实战应用


前言

你是否曾在成百上千行的日志文件中寻找某个关键错误信息,却像大海捞针一样无从下手?是否曾需要从杂乱的文本中快速提取电话号码、邮箱地址或特定格式的数据,却不得不手动逐行筛选?别担心,正则表达式正是为你解决这些问题而生的“文本处理瑞士军刀”。它就像是一套神奇的密码,掌握了它,你就能让计算机自动理解你想要的文本模式,无论是筛选日志、解析数据还是批量处理文档,都将变得轻松高效。本章将带你从零开始,解锁这项让无数程序员和系统管理员受益终身的强大技能。


一、正则表达式概述

1.1 定义

正则表达式(Regular Expression,常缩写为 regex/regexp/RE)是一种用于描述字符串模式的规则。它能够高效地进行检索替换过滤符合特定规则的字符串。

1.2 主要用途

  • 系统日志筛选(如定位“登录失败”“服务启动失败”等关键信息)
  • 配置文件解析与提取
  • 文本查找与替换
  • 脚本编程中的条件匹配与验证

1.3 Linux 中的正则表达式分类

类型名称特点需转义字符常用工具
BRE基础正则表达式功能有限,传统语法\{n\}, \+, \?, \(\), |grep, sed
ERE扩展正则表达式功能强大,语法简洁无需转义grep -E, egrep, awk

1.3.1 基础正则表达式(BRE)

  • 语法较为传统,功能相对有限
  • 量词如 {} 需转义为 \{n,m\}
  • +?() 等符号也需要转义
  • 常用工具:grepsed

1.3.2 扩展正则表达式(ERE)

  • 功能更强大,语法更简洁
  • +?(){}| 等符号无需转义
  • 常用工具:egrep(或 grep -E)、awk

二、正则表达式的基本组成

2.1 普通字符

包括字母、数字、标点符号等,匹配其本身。

2.2 元字符

2.2.1 基本元字符

  • .:匹配任意单个字符(除换行符 \r\n
  • []:匹配字符集合中的一个字符,如 [abc][a-z][0-9A-Z]
  • [^]:匹配不在集合中的任意一个字符,如 [^a-z] 表示非小写字母
  • ^:匹配行首
  • $:匹配行尾
  • \:转义符,用于取消元字符的特殊含义

2.2.2 重复次数相关

  • *:匹配前一个字符 0 次或多次
  • \+:匹配前一个字符至少 1 次(BRE 中需转义)
  • \{n\}:匹配前一个字符恰好 n 次
  • \{n,m\}:匹配前一个字符 n 到 m 次
  • \{n,\}:匹配前一个字符至少 n 次

2.2.3 扩展正则中的元字符(ERE)

  • +:匹配前一个字符至少 1 次(无需转义)
  • ?:匹配前一个字符 0 次或 1 次
  • |:表示“或”关系,匹配多个模式之一
  • ():用于分组,可对一组字符进行重复或选择
  • ()+:匹配重复的组

2.2.4 egrep的用法

egrep 是 Unix/Linux 系统中的一个文本搜索工具,属于 GNU grep 的扩展版本(grep -E 的别名)。它支持扩展正则表达式(Extended Regular Expressions, ERE),比基础正则表达式(BRE)提供更灵活的语法,例如直接使用 +、?、| 等元字符而无需转义。
基本量词语法

  • egrepawk使用{n}{n,}{n,m}进行匹配时,{}前无需加转义符\
  • 示例:
    egrep -E -n 'wo{2}d' demo    # 匹配"wood"
    egrep -E -n 'wo{2,3}d' demo  # 匹配"wood"或"woood"
    

常用量词操作符

  • + 重复一个或多个前导字符

    • 示例:egrep -n 'wo+d' demo 匹配"wood"、“woood”、"woooooood"等字符串
  • ? 零个或一个前导字符

    • 示例:egrep -n 'bes?t' demo 匹配"bet"和"best"
  • | 或操作(匹配多个模式)

    • 示例:egrep -n 'of|is|on' demo 匹配"of"、“if"或"on”
  • () 分组匹配

    • 示例:egrep -n 't(a|e)st' demo
      匹配"tast"和"test",利用分组将共有的"t"和"st"提取,仅将差异部分"a|e"放入组内
  • ()+ 重复分组匹配

    • 示例:egrep -n 'A(xyz)+C' demo
      匹配以"A"开头、"C"结尾,中间包含一个或多个"xyz"的字符串

三、grep 工具的使用

3.1 常用选项

选项功能说明使用示例
-E启用扩展正则表达式grep -E 'wo{2}d' file
-c统计匹配行数grep -c root /etc/passwd
-i忽略大小写grep -i "the" file
-o只输出匹配内容grep -o '[0-9]\+' file
-v反向匹配(排除)grep -v root /etc/passwd
-n显示行号grep -n pattern file
--color=auto高亮显示匹配内容grep --color=auto pattern file

3.2 使用示例

grep -c root /etc/passwd          # 统计包含 root 的行数
grep -i "the" web.sh              # 忽略大小写匹配 the
grep -v root /etc/passwd          # 输出不包含 root 的行
ipconfig | grep -o '[0-9]\+\.[0-9]\+\.[0-9]\+\.[0-9]\+' | head -1  # 提取 IP 地址
  • -c
    在这里插入图片描述
  • -i
    在这里插入图片描述
  • -v
    在这里插入图片描述
  • -o
    在这里插入图片描述

四、正则表达式操作案例

元字符功能说明示例匹配结果
.匹配任意单个字符(除\r\n)w..dwood, word, w00d
[ ]匹配字符集合中的任意一个字符sh[io]rtshirt, short
[^ ]匹配不在集合中的任意一个字符[^w]oofoo, boo(排除woo)
^匹配行首位置^the以the开头的行
$匹配行尾位置\.$以.结尾的行
\转义特殊字符a\.ba.b(而不是ajb等)

4.1 查找特定字符

grep -n 'the' demo        # 查找包含 the 的行
grep -vn 'the' demo       # 查找不包含 the 的行

请添加图片描述

4.2 使用中括号集合

grep -n 'sh[io]rt' demo   # 匹配 shirt 或 short
grep -n '[^w]oo' demo     # 匹配开头不是 w 且包含 oo 的行

在这里插入图片描述

4.3 使用定位符

grep -n '^the' demo       # 匹配以 the 开头的行
grep -n '\.$' demo        # 匹配以 . 结尾的行
grep -n '^$' demo         # 匹配空行

在这里插入图片描述

4.4 使用点与星号

grep -n 'w..d' demo       # 匹配 w 开头、d 结尾,中间两个任意字符
grep -n 'woo*d' demo      # 匹配 w 开头、d 结尾,中间有 0 个或多个 o
grep -n 'w.*d' demo       # 匹配 w 开头、d 结尾,中间任意多个字符
grep -n '[0-9][0-9]*' demo # 匹配任意数字

在这里插入图片描述

4.5 使用次数限定符

grep -n 'o\{2\}' demo           # 匹配两个连续的 o
grep -n 'wo\{2,5\}d' demo       # 匹配 w 开头、d 结尾,中间 2~5 个 o
grep -n 'wo\{2,\}d' demo        # 匹配 w 开头、d 结尾,中间至少 2 个 o

在这里插入图片描述


五、基础正则与扩展正则对比表

量词功能说明BRE语法ERE语法示例
*匹配0次或多次**wo*d(wd, wod, wood)
+匹配1次或多次\++wo\+d(wod, wood)
?匹配0次或1次\??bes?t(bet, best)
{n}匹配恰好n次\{n\}{n}o\{2\}(oo)
{n,}匹配至少n次\{n,\}{n,}o\{2,\}(oo, ooo, …)
{n,m}匹配n到m次\{n,m\}{n,m}o\{2,5\}(oo, ooo, oooo, ooooo)

总结

🎯 核心价值

正则表达式是文本处理的瑞士军刀,通过模式匹配实现高效检索、替换和过滤,极大提升数据处理效率。

📊 体系结构

两大体系并行:

  • BRE(基础正则):传统严谨,需转义特殊字符
  • ERE(扩展正则):现代简洁,直接使用元字符

⚡ 四大核心能力

  1. 精准定位 - 用 ^ $ 锁定行首行尾
  2. 字符控制 - 用 [ ] [^ ] 精确字符范围
  3. 数量调控 - 用 * + ? {} 控制出现次数
  4. 逻辑组合 - 用 | () 实现复杂逻辑匹配

🛠️ 实战应用

grepawksed等结合使用,可以处理99%的文档

  • 日志分析:快速定位错误信息 grep -n "error" logfile
  • 数据提取:匹配特定格式 grep -o '[0-9]\{3\}-[0-9]\{2\}-[0-9]\{4\}'
  • 文本清洗:过滤空行 grep -v '^$' file
  • 模式验证:检查格式合法性 grep -E '^[A-Za-z0-9]+@[A-Za-z0-9]+\.[a-z]{2,}$'
http://www.xdnf.cn/news/1417753.html

相关文章:

  • 【C++游记】AVL树
  • 刷题日记0901
  • (3dnr)多帧视频图像去噪 (二)
  • MySQL内置的各种单行函数
  • 强化学习实战:从零搭建自主移动机器人避障仿真(1)— 导论篇
  • 【LeetCode热题100道笔记+动画】乘积最大子数组
  • AI+PLM如何重构特种/高端复杂装备行业的工艺管理?
  • 再见 K8s!3款开源的云原生部署工具
  • 开源模型应用落地-模型上下文协议(MCP)-为AI智能体打造的“万能转接头”-“mcp-use”(十二)
  • [开源项目] Tiny-RAG :一套功能完善、高度可配的本地知识库问答解决方案
  • 深度学习篇---ShuffleNet网络结构
  • 广电手机卡到底好不好?
  • 科学研究系统性思维的方法体系:数据收集
  • 【Audio】切换至静音或振动模式时媒体音自动置 0
  • docker安装redis,进入命令窗口基操练习命令
  • 优化括号匹配检查:从Stack到计数器的性能提升
  • MOS管学习
  • Linux 进程状态 — 僵尸进程
  • FDTD_梯度波导学习(1)
  • HOW - 前端团队产出评定方案参考
  • 携程旅行 web 验证码 分析
  • JavaEE 进阶第一期:开启前端入门之旅(上)
  • GitLab 18.3 正式发布,更新多项 DevOps、CI/CD 功能【二】
  • 餐饮门店的小程序怎么做?如何开发餐饮店下单小程序?
  • C++11模板优化大揭秘:让你的代码更简洁、更安全、更高效
  • CICD实战(2) - 使用Arbess+GitLab+SonarQube实现Java项目快速扫描/构建/部署
  • 简单实现Ai音乐suno-api
  • TCP粘包
  • 考研复习-计算机网络-第一章-计算机网络概述
  • keil MDK如何使用第三方软件Keil2Json.exe生成compile_commands.json文件,方便vscode+clangd环境使用