gpt4 book ai didi

java - 空对象引用上的“java.lang.String org.jsoup.nodes.Element.text()”

转载 作者:行者123 更新时间:2023-12-02 01:39:06 24 4
gpt4 key购买 nike

我一直在尝试使用 Java 从网站获取字符串。这是我的代码:

protected String doInBackground(String... urls) {
try {
gotten_next_date = Jsoup.connect("https://www.vividseats.com/nba-basketball/toronto-raptors-schedule.html")
.get().getElementsByClass("productionsDate").first().text();
full_next = gotten_next_date;

return full_next;
} catch (IOException e) {
return "Unable to retrieve data. URL may be invalid.";
}

我昨天写了这个,它运行得很好,但是当我今天尝试时,由于某种原因,它给了我这个错误:

java.lang.NullPointerException: Attempt to invoke virtual method 'java.lang.String org.jsoup.nodes.Element.text()' on a null object reference

我不明白为什么会发生这种情况。有人可以帮忙吗?

编辑:我相信错误不是因为创建变量而发生,而是因为没有从网站接收元素。我认为这个问题被错误地标记为重复。

最佳答案

你所做的应该很好。我运行过一次,但后来就停止工作了。

问题是该网站有一个反抓取机制,如果您在其网站上发出太多请求,该机制会阻止您。

我建议你做的是:

  1. 添加 userAgent() 以便将自己标识为机器人抓取工具。
  2. 阅读他们的服务条款,检查您是否可以抓取他们的网站。
  3. 向他们发送一封电子邮件,告知您的意图以及他们是否同意抓取其网站的部分内容。

顺便说一下,如果你想调试正在发生的事情,我的做法就是将 Jsoup 调用更改为:

String gotten_next_date =
Jsoup.connect("https://www.vividseats.com/nba-basketball/toronto-raptors-schedule.html").get().html();

这将返回所请求页面的 html,如果您查看的话,没有任何有趣的内容。

<!doctype html>
<html>
<head>
<meta NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
<meta http-equiv="cache-control" content="max-age=0">
<meta http-equiv="cache-control" content="no-cache">
<meta http-equiv="expires" content="0">
<meta http-equiv="expires" content="Tue, 01 Jan 1980 1:00:00 GMT">
<meta http-equiv="pragma" content="no-cache">
<meta http-equiv="refresh" content="10; url=/distil_r_captcha.html?requestId=291c6193-eb12-4e96-b1cd-23ba9a75e659&amp;httpReferrer=%2Fnba-basketball%2Ftoronto-raptors-schedule.html">
<script type="text/javascript">
(function(window){
try {
if (typeof sessionStorage !== 'undefined'){
sessionStorage.setItem('distil_referrer', document.referrer);
}
} catch (e){}
})(window);
</script>
<script type="text/javascript" src="/vvdstsdstl.js" defer></script>
<style type="text/css">#d__fFH{position:absolute;top:-5000px;left:-5000px}#d__fF{font-family:serif;font-size:200px;visibility:hidden}#twsyxyabbqdwrxzyzxesxywvwuzbszeeacwd{display:none!important}</style>
<script>var w=window;if(w.performance||w.mozPerformance||w.msPerformance||w.webkitPerformance){var d=document;AKSB=w.AKSB||{},AKSB.q=AKSB.q||[],AKSB.mark=AKSB.mark||function(e,_){AKSB.q.push(["mark",e,_||(new Date).getTime()])},AKSB.measure=AKSB.measure||function(e,_,t){AKSB.q.push(["measure",e,_,t||(new Date).getTime()])},AKSB.done=AKSB.done||function(e){AKSB.q.push(["done",e])},AKSB.mark("firstbyte",(new Date).getTime()),AKSB.prof={custid:"632139",ustr:"",originlat:"0",clientrtt:"124",ghostip:"72.247.179.76",ipv6:false,pct:"10",clientip:"79.119.120.57",requestid:"418cf776",region:"26128",protocol:"",blver:14,akM:"b",akN:"ae",akTT:"O",akTX:"1",akTI:"418cf776",ai:"275708",ra:"false",pmgn:"",pmgi:"",pmp:"",qc:""},function(e){var _=d.createElement("script");_.async="async",_.src=e;var t=d.getElementsByTagName("script"),t=t[t.length-1];t.parentNode.insertBefore(_,t)}(("https:"===d.location.protocol?"https:":"http:")+"//ds-aksb-a.akamaihd.net/aksb.min.js")}</script>
</head>
<body>
<div id="distilIdentificationBlock">
&nbsp;
</div>
</body>

更新:(来自zack6849)如果您仔细查看 head 标记内部,最后一个 meta 标记会提示您将被重定向到验证码页面:

<meta http-equiv="refresh" content="10; url=/distil_r_captcha.html?requestId=291c6193-eb12-4e96-b1cd-23ba9a75e659&amp;httpReferrer=%2Fnba-basketball%2Ftoronto-raptors-schedule.html"> 

如果您还搜索一下 html 中的 distilIdentificationBlock,您会发现它与抓取工具被阻止有关。

希望它可以帮助您更好地了解正在发生的事情。

关于java - 空对象引用上的“java.lang.String org.jsoup.nodes.Element.text()”,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/54726373/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com