java爬虫简单例子_java爬虫简单例子——附jsoup的select用法详解

在上一篇博文 java爬取网页内容 简单例子(1)——使用正则表达式

里面，介绍了如何使用正则表达式去解析网页的内容，虽然该正则表达式比较通用，但繁琐，代码量多，现实中想要想出一条简单的正则表达式

对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇，我们改用jsoup，一个强大的解析html工具，去解析html，你

会发现，一切都变得很容易。

【准备工作】

：jsoup-1.6.1.jar

【先看效果】

目标网站：中国天气

目的：获取今天的天气

目标HTML代码：

复制代码

今天

8日

雷阵雨

33°C

25°C

微风

复制代码

解析的java代码：

(1)审查网页元素后发现，我们要的内容在上面的目标HTML代码中，在整个网页中是在 class="dn on" data-dn="7d1" 的

中

(2)“今天” 两字在

中

(3)“8日” 两字在

中

(4)“雷阵雨” 三字在 class="wea" 中

(5)“33” 在第一个中

(6)“25” 在第二个中

(7)“微风” 两字在 第三个中

有了上面的分析，要获取到这些天气内容就易如反掌了。如下java代码：

复制代码

1 package com.zjm.

2

3 import java.io.IOException;

4

5 import org.jsoup.Jsoup;

6 import org.jsoup.nodes.Document;

7 import org.jsoup.select.Elements;

8

9 public class TestJsoup {

10

11     public  Document getDocument (String url){

12         try {

13             return Jsoup.connect(url).get();

14         } catch (IOException e) {

15             e.printStackTrace();

16         }

17         return null;

18     }

19

20     public static void main(String[] args) {

21         TestJsoup t = new TestJsoup();

22         Document doc = t.getDocument("");

23         // 获取目标HTML代码

24         Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");

25         // 今天

26         Elements elements2 = elements1.select("h1");

27         String today = elements2.get(0).text();

28         System.out.println(today);

29         // 几号

30         Elements elements3 = elements1.select("h2");

31         String number = elements3.get(0).text();

32         System.out.println(number);

33         // 是否有雨

34         Elements elements4 = elements1.select("[class=wea]");

35         String rain = elements4.get(0).text();

36         System.out.println(rain);

37         // 高的温度

38         Elements elements5 = elements1.select("span");

39         String highTemperature = elements5.get(0).text()+"°C";

40         System.out.println(highTemperature);

41         // 低的温度

42         String lowTemperature = elements5.get(1).text()+"°C";

43         System.out.println(lowTemperature);

44         // 风力

45         Elements elements6 = elements1.select("i");

46         String wind = elements6.get(2).text();

47         System.out.println(wind);

48     }

49 }

复制代码

结果打印出：

1 今天

2 8日

3 雷阵雨

4 33°C

5 25°C

6 微风

【详解】

附:

jsoup的官方中文文档为：

API为：

java代码第13行：

从文档中我们可用看出，获取数据源的方法有三：

(1)从一段html代码字符串获取：　　Document doc = Jsoup.parse(html);

(2)从一个url获取：　　　　　　　　Document doc = Jsoup.connect("").get();

(3)从一个html文件获取　　　　　　File input = new File("/tmp/input.html");

Document doc = Jsoup.parse(input, "UTF-8", "");

这里，我们采取了第二种方法，从url中获取。

java代码第24、26、30、34、38行：

Document 继承自 Element 类， 而Element类有一个很好的方法，叫select ， 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段，我觉得使用select最方便。下面我们来看怎么使用select方法来查找。

注：以下表格的结果都是使用以下语句打印出来的

for(Element e : elements) {

System.out.println(e.text());

}

select详解

描述测试的HTML代码select写法

结果

通过

标签名

来查找

33

25

Elements elements = doc.select("span");

注：通过标签来查找，直接写 "标签名" 就好，不需要尖括号。

33

25

通过

id

来查找

36

20

Elements elements = doc.select("#mySpan");

注：通过id来查找，使用方法跟css指定元素一样，用#

36

通过

class名

来查找

36

20

Elements elements = doc.select(".myClass");

注：通过id来查找，使用方法跟css指定元素一样，用 .

36

利用标签内

属性名

查找元素

36

36

Elements elements = doc.select("span[class=class1]span[id=id1]");

注：规则为 标签名【属性名=属性值】，标签名可写可不写，多个属性即多个【】，如上。

36

利用标签内

属性名前缀

查找元素

36

22

Elements elements = doc.select("span[^cl]");

注：规则为 标签名【^属性名前缀】，标签名可写可不写，多个属性即多个【】。

36

22

利用标签内

属性名+正则表达式

查找元素

36

22

Elements elements = doc.select("span[class~=^AB]");

注：规则为 标签名【属性名~=正则表达式】，以上的正则表达式的意思是查找以class值以AB为开头的标签，标签名可写可不写，多个属性即多个【】

36

利用标签

文本包含某些内容

来查找

36

22

Elements elements = doc.select("span:contains(3)");

注：规则为 标签名:contains(文本值)

36

利用标签

文本包含某些内容+正则表达式

来查找

36

22

Elements elements = doc.select("span:matchesOwn(^3)");

注：规则为 标签名:matchesOwn(正则表达式)，以上的正则表式的意思是以文本值以3为开头的标签

36

关于select，还有一些其他的查找方法，以上只列出个人觉得比较好用、常用的语法。

select方法返回的是一个Elements 对象，里面包含着找到的所有节点。遍历Elements ，通过get(index)，就可以拿出具体的 节点了。通过节点的text()方法，就可用拿出文本值。

而想得到节点的其他属性，可以看API的介绍。

出处: