当前位置:首页 » 软件系统 » 如何判断一个网页是否可以爬取
扩展阅读
情史电影 2024-05-04 14:14:58
ippa作品怎么查 2024-05-04 14:14:57

如何判断一个网页是否可以爬取

发布时间: 2023-02-06 23:33:30

⑴ 如何爬取网站上的某一信息

两类网站可以用不同的方法去爬取
一、开放API的网站
一个网站如果开放了API,那么就可以直接GET到它的json数据。有三种方法可以判断一个网站是否开放了API。

1、在站内寻找API入口;

2、用搜索引擎搜索“某网站API”;

3、抓包。有的网站虽然用到了ajax,但是通过抓包还是能够获取XHR里的json数据的(可用抓包工具抓包,也可以通过浏览器按F12抓包:F12-Network-F5刷新)。

二、不开放API的网站

1、如果网站是静态页面,那么可以用requests库发送请求,再通过HTML解析库(lxml、parsel等)来解析响应的text;解析库强烈推荐parsel,不仅语法和css选择器类似,而且速度也挺快,Scrapy用的就是它。

2、如果网站是动态页面,可以先用selenium来渲染JS,再用HTML解析库来解析driver的page_source。

⑵ 怎么判断网站被百度蜘蛛爬取过了呢

比较简单直观判断的方法,1.是网络快照更新了。
2.是你看新发布的一些文章有没被网络收录。
网站日志则是比较精确的分析方法。