正则表达式有很多用途,比如文本解析、网络爬虫。我们可以通过网络抓取数据,然后用正则表达式去解析这些抓取结果,得到我们需要的数据。接下来我们通过一个商品采集器的例子来说明正则表达式的用途,并借此讲述项目开发、迭代的过程。
在电商发展尚未如此成熟、智能之前,淘宝U站一度非常热门。淘宝U站是一个根据细分领域收集淘宝商品的网站,集中了指定分类、价格优惠质量好的商品。U站的运营者每天需要去不同的网站寻找合适的商品,然后放入到自己的U站上,这需要耗费挺多工作,有没有办法自动从优秀的U站平台采集好的商品呢?这就产生了一个商品采集器的需求,自动从指定U站上采集商品,导入到自己平台,供筛选。
采集器包含通用的登录退出逻辑,用户可以指定要采集的网站地址、采集商品的匹配方法。为便于用户对不同网站指定不同的商品匹配方法,也便于在采集网站网页布局变化后修改匹配的正则,系统提供了可视化修改匹配商品的正则表达式的方法,并且能够在线测试匹配结果。
正则采集器是一个项目系列文章,在"项目实践"专栏下,本系列文章将从需求分析、项目框架搭建、代码开发等步骤一步步讲解项目过程,项目体验地址为:http://reptile.52br.net/。
前端代码:GitHub - guzhangyu/reptile-ui: 商品正则采集器,前端
后端代码:GitHub - guzhangyu/reptile-api: 商品正则采集器
涉及到的知识点介绍: