Web Scraper

Web Scraper Chrome插件背景介绍

作为小编，我们常常有种强烈的需求就是不需要编程，也能够网页抓取。做新媒体运营也是，很多时候会需要用到数据来帮助工作。比如，我们登陆淘宝，京东等商务网站，抓取某一类商品的规格说明，价格，厂家等信息；我们希望可以抓取我们进入头条上的最热门的文章，也可以抓取我们自己的所有文章列表，发布时间，阅读和浏览量等信息，当然也能抓取我们的粉丝列表。 那么有没有这样一款工具存在呢？今天我们chrome插件网要为大家介绍的这款Web Scraper插件就是这样一款你不需要写任何的代码，只需点击，点击，点击，四步使用者就能通过该插件来建立页面数据提取规则，从而快速对网页中需要的内容进行提取，最后还能把抓取的结果导出为Excel可以识别的CSV格式。

Web Scraper插件使用方法

1、如果你可以进入Chrome 应用商店，那么可以选择在线安装。如下图所示：

不能访问的话就在本站下载Web Scraper插件。其离线安装的方法参照：chrome插件的离线安装方法。最新chrome浏览器下载地址：https://huajiakeji.com/category/chrome/。

标签页输入【chrome://extensions/】进入chrome扩展程序，解压你在本页下载的Web Scraper插件，并拖入扩展程序页即可。

2、插件安装完成后，在浏览器中会出现其按钮标记。用户可以先在设置页面中对该插件的储存设置和储存类型功能进行设置。

3、用户可以使用Web Scraper插件来抓取页面，其操作方法如下：

1）、打开你要抓取的网页。

首先要使用该插件来提取网页数据需要在开发者工具模式中使用，使用快捷键Ctrl+Shift+I/F12或者点击右键，选择“检查（Inspect）”，在开发者工具下面就能看到WebScraper的Tab。如下图所示：

2）、新建一个Sitemap。点击Create New Sitemap，里面有两个选项，import sitemap是指导入一个现成的sitemap，咱小白一般没有现成的，所以一般不选这个，选create sitemap 就好。

然后进行这两个操作：
(1)Sitemap Name：代表你这个Sitemap是适用于哪一个网页的，所以你可以根据网页来自命名，不过需要使用英文字母，比如我抓的是今日头条的数据，那我就用toutiao来命名；
(2)Sitemap URL：把网页链接复制到Star URL这一栏，比如图片里我把「吴晓波频道」的主页链接复制到了这一栏，而后点击下方的create sitemap来新建一个Sitemap。

3）、设置这个Sitemap
整个Web Scraper的抓取逻辑是这样：设置一级 Selector，选定抓取范围；在一级 Selector 下设置二级 Selector，选定抓取字段，然后抓取。
对于文章而言，一级 Selector 就是你要把这一块文章的要素圈出来，这个要素可能包含了 标题、作者、发布时间、评论数等等，然后我们再在二级 Selector 中挑出我们要的要素，比如标题、作者、阅读数。

下面我们来拆解这个设置一级、二级 Selector 的工作流：

(1)点击 Add new selector 创建一级 Selector。
而后按照以下步骤操作：
-输入id：id代表你抓取的整个范围，比如这里是文章，我们可以命名为wuxiaobo-articles；
-选择Type：type 代表你抓取的这部分的类型，比如元素／文本／链接，因为这个是整个文章要素范围选取，我们需要用Element 来先整体选取（如果这个网页需要滑动加载更多，那就选 Element Scroll Down）；
-勾选Multiple：勾选 Multiple 前面的小框，因为你要选的是多个元素而不是单个元素，当我们勾选的时候，爬虫插件会帮助我们识别多篇同类的文章；
-保留设置：其余未提及部分保留默认设置。

(2)点击select选择范围，按照以下步骤操作：
-选择范围：用鼠标选择你要爬取数据的范围，绿色是待选区域，用鼠标点击后变为红色，才是选中了这块区域；
-多选：不要只选一个，下面的也要选，否则爬出来的数据也只有一行；
-完成选择：记得点Done Selecting；
-保存：点击Save Selector。

(3)设置好了这个一级的Selector之后，点进去设置二级的Selector，按照以下步骤操作：
-新建Selector：点击 Add new selector ；
-输入id：id代表你抓取的是哪个字段，所以可以取该字段的英文，比如我要选「作者」，我就写「writer」；
-选择Type：选Text，因为你要抓取的是文本；
-勿勾选Multiple：不要勾选 Multiple 前面的小框，因为我们在这里要抓取的是单个元素；
-保留设置：其余未提及部分保留默认设置。

(4)点击 select，再点击你要爬取的字段，按照以下步骤操作：
-选择字段：这里爬取的字段是单个的，用鼠标点击该字段即可选定，比如要爬标题，那就用鼠标点击某篇文章的标题，当字段所在区域变红即为选中；
-完成选择：记得点 Done Selecting；

-保存：点击 Save Selector。

(5)重复以上操作，直到选完你想爬的字段。
4、爬取数据
(1)之后你想要爬取数据只需要设置完所有的Selector就可以开始：
点击Scrape，然后点Start Scraping，弹出一个小窗后爬虫就会开始工作。你会得到一个列表，上面有你想要的所有数据。

(2)如果你希望把这些数据做一个排序，比如按照阅读量、赞数、作者等指标排序，让数据更一目了然，那么你可以点击 Export Data as CSV，把它导入 Excel 表里。
(3)导入 Excel 表格之后，你就可以对数据进行筛选了。

我们这里只是简单介绍总结了Web Scraper的插件的功能，安装以及一个简单的单页面例子。其实Web Scraper的功能远远不止于此，其实还能抓取分页，还能多页多元素的抓取，还能抓取二级页面。大家自己慢慢摸索吧。

Web Scraper插件官方教程视频

http://webscraper.io/tutorials