java - 使用 JSoup 从 Google 搜索结果的所有页面中检索所有链接

Question

我有以下使用 JSoup 在 java 中解析 HTML 的代码。

Document linksDoc = null; 
linksDoc = Jsoup.connect("http://www.google.com/search?q=jbutton").userAgent("Mozilla").get();
Elements titles = linksDoc.select("h3.r > a");

for(Element e: titles){
    System.out.println("text"+cnt+": " +e.attr("href"));
  } 

问题是我只能检索首页搜索结果链接。我应该怎么做才能从 google 搜索结果的其余页面中获取链接。

Answer 1

如果您想从第二页获取结果，请将 &start=10 添加到 URL。对于第三页，使用 &start=20 等等。

Document linksDoc = Jsoup.connect("http://www.google.com/search?q=jbutton&start=10")
        .userAgent("Mozilla").get();
//...