正则表达式匹配url的一种思路

背景是是搜集一类网站的url。可以在几个网站中找到相关链接。一个个打开复制太麻烦,于是就考虑在源代码中提取出其中的url。

于是将页面源代码保存到url.txt文件中后,通过如下脚本通过正则表达式过滤出其中的url。

#! /usr/bin/perl
use warnings;
@strs=`cat ./url.txt`;
foreach (@strs){
	if(/(https?.*?\.(:?cn\b|com\b|net\b|org\b|gov\b)(?!\.))/)
		{print "$1\n";}
}
通过观察,页面源码中的url都含有一下特点。

1.http或者https开头。(这个特别棒,省了不少事)

2.中间是一段任意字符串

3.结尾处是知名的顶级域


然后写出正则表达式如下

(https?.*?\.(:?cn\b|com\b|net\b|org\b|gov\b)(?!\.))

详细解释下:

http:先是匹配http

s? :可有可无的s

.*? :以非贪婪的模式匹配任意长度的任意字符。 “.''表示任意字符,” *?“表示非贪婪模式匹配任意长度。如果使用贪婪模式,会出现很多意外情况。

\. :匹配点符号,因为"."在正则中表示任意字符,所以想要匹配”."本身需要用”\“进行转义

(:? ) :其实就是简单的括号,改变下优先级,加上”:?“ 是以为perl中会将()内的匹配到的字符串存储到相应变量中,而加上(:?)则不会储存。

cn\b|com\b :匹配不在字符串中间的cn或者com。之后的net,org,gov也都一样。

(?!\.):这是个零宽断言,就是说前面的cn,com字符串后面没有点。这是为了避免www.ujn.edu.cn这样的,只匹配出www.ujn.edu,丢掉后面的cn。




网上有跟多匹配各种类型的url的表达式,小弟才疏学浅,大部分都看不懂,自己写个简简单单的,符合自己要求的随便用用,需要的拿去。求别喷。

阅读更多
文章标签: url 正则
个人分类: 系统运维
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

加入CSDN,享受更精准的内容推荐,与500万程序员共同成长!
关闭
关闭