您的位置：首页 > 新闻资讯 > 正文

爬虫采集数据行为合法吗？怎么判断？

发布时间：2018-11-28 16:05:54 来源：互联网

对于网站来说，是非常欢迎搜索引擎的爬虫，但其他的爬虫就不一定喜欢了，因为大量的爬虫采集会影响网站服务器，影响用户体验。关键是还有些人专门采集用户数据，从中分析获利，这样的爬虫是否违法呢？下面跟黑洞代理一起去了解一下爬虫采集数据行为合法吗。

爬虫采集数据行为合法吗

一、爬虫采集数据是否违法

1.公开信息采集合法

爬虫作为一种计算机技术就决定了它的中立性，因此爬虫本身在法律上并不被禁止，但是利用爬虫技术获取数据这一行为是具有违法甚至是犯罪的风险的。所谓具体问题具体分析，正如水果刀本身在法律上并不被禁止使用，但是用来捅人，就不被法律所容忍了。

或者我们可以这么理解：爬虫是用来批量获得网页上的公开信息的，也就是前端显示的数据信息。因此，既然本身就是公开信息，其实就像浏览器一样，浏览器解析并显示了页面内容，爬虫也是一样，只不过爬虫会批量下载而已，所以是合法的。

举个例子：像谷歌这样的搜索引擎爬虫，每隔几天对全网的网页扫一遍，供大家查阅，各个被扫的网站大都很开心。这种就被定义为“善意爬虫”。

2.窃取后台数据违法

不合法的情况就是配合爬虫，利用黑客技术攻击网站后台，窃取后台数据（比如用户数据等）。

是像抢票软件这样的爬虫，对着12306每秒钟恨不得撸几万次，铁总并不觉得很开心，这种就被定义为“恶意爬虫”。

二、爬虫不能采集哪些数据

1.当采集的站点有声明禁止爬虫采集或者转载商业化时。

2.当网站声明了rebots协议

Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（RobotsExclusionProtocol），网站通过Robots协议告诉爬虫哪些页面可以抓取，哪些页面不能抓取。

关于“爬虫采集数据行为合法吗”的问题，上文已经非常清楚的介绍了，相信大家都知道哪些数据能够采集，哪些数据不能采集。另外，爬虫在采集数据时，要注意爬取的速度，避免影响对方网站的正常运营。

爬虫采集数据少不了使用换IP软件突破IP限制，黑洞代理千万IP池可以满足爬虫需求。