python的爬虫技术的法律边线，你知道多少

一、网络爬虫的定义

网络爬虫，即Web Spider，是一个很形象的名字。把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页的。

从网站某一个页面（通常是首页）开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。如果把整个互联网当成一个汪海大海网站，那么网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来。

这样看来，网络爬虫就是一个爬行程序，一个抓取网页的程序。网络爬虫的基本操作是抓取网页。那么如何才能随心所欲地获得自己想要的页面？我们先从URL开始。

1.1、浏览网页的过程

抓取网页的过程其实和读者平时使用IE浏览器浏览网页的道理是一样的。

比如说你在浏览器的地址栏中输入http://www.baidu.com这个地址。打开网页的过程其实就是浏览器作为一个浏览的“客户端”，向服务器端发送了一次请求，把服务器端的文件“抓”到本地，再进行解释、展现。

HTML是一种标记语言，用标签标记内容并加以解析和区分。浏览器的功能是将获取到的HTML代码进行解析，然后将原始的代码转变成我们直接看到的网站页面。

1.2、URI和URL的概念和举例

简单的来讲，URL就是在浏览器端输入的http://http://www.baidu.com这个字符串。在理解URL之前，首先要理解URI的概念。什么是URI？

Web上每种可用的资源，如 HTML文档、图像、视频片段、程序等都由一个通用资源标志符(Universal Resource Identifier，URI)进行定位。 URI通常由三部分组成：①访问资源的命名机制；②存放资源的主机名；③资源自身的名称，由路径表示。

如下面的URI：http://res.jndjg.cn/resourceHome.html/,我们可以这样解释它：①这是一个可以通过HTTP协议访问的资源，②位于主机res.jndjg.cn上，③通过路径“resourceHome.html/”访问。

1.3、URL的理解和举例

URL是URI的一个子集。它是Uniform Resource Locator的缩写，译为“统一资源定位符”。

通俗地说，URL是Internet上描述信息资源的字符串，主要用在各种WWW客户程序和服务器程序上。 采用URL可以用一种统一的格式来描述各种信息资源，包括文件、服务器的地址和目录等。
URL的一般格式为(带方括号[ ]的为可选项)：protocol 😕/ hostname[:port] / path / [;parameters][?query]#fragmentURL的格式由三部分组成：
①第一部分是协议(或称为服务方式)。
②第二部分是存有该资源的主机IP地址(有时也包括端口号)。
③第三部分是主机资源的具体地址，如目录和文件名等。第一部分和第二部分用“😕/”符号隔开，第二部分和第三部分用“/”符号隔开。第一部分和第二部分是不可缺少的，第三部分有时可以省略。

1.4、URL和URI简单比较

URI属于URL更低层次的抽象，一种字符串文本标准。

换句话说，URI属于父类，而URL属于URI的子类。URL是URI的一个子集。

URI的定义是：统一资源标识符； URL的定义是：统一资源定位符。

二者的区别在于，URI表示请求服务器的路径，定义这么一个资源。

而URL同时说明要如何访问这个资源（http://）。

爬虫最主要的处理对象就是URL，它根据URL地址取得所需要的文件内容，然后对它进行进一步的处理。因此，准确地理解URL对理解网络爬虫至关重要。

二、网络爬虫的法律边界

如今，很多人都有类似这样的经历，这种“聊啥来啥”的现象让人们在接受“贴心”服务的同时也越发感到疑惑：“难道App在‘偷听’我们聊天？”近几年，在侵犯公民个人信息犯罪案件的办理中，网络爬虫技术逐步走进大众视野。

2.1、公民信息是如何被爬走的

个人信息是互联网企业输出用户画像、制定营销策略以及识别风险的重要依据。随着数据产业的不断发展，个人信息已成为高价值的数据资源，对其的争夺日趋激烈。据统计，目前，除了直接通过用户采集数据，另一个主要的数据来源就是使用网络爬虫技术采集公开信息。所谓网络爬虫，也称网络机器人或网络蜘蛛，是通过模拟人（网络用户）的行为，自动、高效地浏览互联网并抓取所需数据的计算机程序。无论是个人数据还是企业数据，公开信息还是个人隐私或商业机密，爬虫技术都可以实现数据爬取。“在购物、社交、通讯等类型App中，用户可以上传自身信息后设置访问限制，或者使用加密功能只有自己可以访问，这类信息属于用户的个人隐私。如果爬虫控制者绕开上述限制，在未经授权的情况下进行访问，并抓取用户的个人信息，又或者在抓取后公开传播甚至买卖这些信息，造成对用户的损害后果的，可能侵犯相关用户的隐私权。”

2.2、如何界定个人信息的合法性

不合法的爬虫行为可分为非法侵入和合法用户的越权。非法侵入就是爬虫完全没有获得被爬取方的许可，私自侵入爬取对方存储的个人信息数据，甚至突破他人设置的技术保护措施的行为；而合法用户的越权行为类似于公司和用户之间签订了信息使用范围的协议，但是爬虫方越权获取用户个人信息。以上非法的爬虫行为，或涉嫌三宗罪：非法获取计算机信息系统数据罪、破坏计算机信息系统罪、侵犯公民个人信息罪。如何界定爬虫技术获取公民个人信息的合法性？华东政法大学教授高富平认为，可从数据爬取的手段和目的两个方面来看。根据数据爬取的手段来划分，爬取方在双方约定的访问协议范围内进行的数据爬取行为，可被认定为是合法获取信息的行为；而爬虫无视网站访问控制，或者假扮合法访问者的行为，可被认定为不合法。从目的来看，数据爬取一方是否对被爬取一方提供的部分产品或服务进行“实质性替代”，如果是，那么它的目的就是不合法的。

2.3、如何平衡个人隐私保护和鼓励技术创新

11月1日，个人信息保护法正式实施，对合理处理个人信息作出明确规定。个人信息保护法和民法典两部法律设计和构建了比较完整的个人信息权益相关保护制度，专家在受访时也表示，对于司法实践中遇到的新问题，仍需要从法律层面作出进一步规定和限制。对于日益更新的数据和技术领域，在不断完善法律法规建设层面，打击非法获取用户信息行为的同时，还要关注行业的发展。高富平认为，单纯打击爬虫技术应用并不能扼制这项技术的滥用。需要给数据需求者提供合法获取底层数据的渠道，允许数据控制者许可需求者以有偿或有序方式使用其数据。

专家认为，一方面产业界要恪守法律底线，另一方面也要大力鼓励技术创新。
如何平衡个人信息权益保护和信息数据产业发展、技术创新之间的关系，是数据经济时代的重要命题。对此，张勇认为，保护个人隐私与鼓励产业发展、技术创新之间不是非此即彼的利益衡量问题，而是如何共生共存的利益协调问题。基于安全与发展相统一的系统思维，应当以个人信息保护法、数据安全法、网络安全法的实施为契机，进一步完善爬虫技术应用所需的各类规则体系，优化数据市场法治环境，惩治滥用爬虫技术、侵犯个人信息权益的违法犯罪行为。

三、Python的推荐学习资源

如果你是准备学习Python或者正在学习，下面这些你应该能用得上：

• ① Python所有方向的学习路线图，清楚各个方向要学什么东西

• ② 100多节Python课程视频，涵盖必备基础、爬虫和数据分析

• ③ 100多个Python实战案例，学习不再是只会理论

• ④ 华为出品独家Python漫画教程，手机也能学习

• ⑤ 历年互联网企业Python面试真题,复习时非常方便

上述这份完整版的Python全套学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

3.1、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

3.2、Python课程视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

3.3、Python实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

3.4、Python漫画教程

用通俗易懂的漫画，来教你学习Python，让你更容易记住，并且不会枯燥乏味。

3.5、互联网企业面试真题

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

这份完整版的Python全套学习资料已为大家备好，朋友们如果需要可以微信扫描下方二维码添加“住隔壁的王叔”，输入"领取资料" 可免费领取全套资料【有什么需要协作的还可以随时联系我】