个人中心
文章发布
退出
作者热门文章
- html - 出于某种原因，IE8 对我的 Sass 文件中继承的 html5 CSS 不友好？
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景？
31
4
首先，这不是一个重复的问题，因为我已经检查了几乎所有的503/机器人索引问题。他们都没有解决我的问题。我正在尝试从 indiegala.com 获取赠品列表，但该网站有某种保护措施来防止机器人。我的目的并不违法，我只是想获得赠品列表，然后检查游戏是否有 Steam 交易卡。但要知道，indiegala 给了我一个机器人索引。目前我正在使用该代码；
String url = "https://www.indiegala.com/giveaways";
try {
String content = Jsoup.connect(url).userAgent("Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36").ignoreHttpErrors(true).followRedirects(true).get().html();
System.out.println(content);
} catch (IOException ex) {
System.out.println(ex.toString());
}
要查看输出(网站的来源，在我的代码中，变量“内容”)，您可以运行我给出的代码，我无法在此处添加输出，因为它有点长。但看起来是这样的；
<head>
<meta name="ROBOTS" content="NOINDEX, NOFOLLOW" />
</head>
那么我怎样才能通过这个保护呢？我的程序可以假装像人一样通过这种保护吗？
最佳答案
我已经查看了您的案例，并找到了如何绕过机器人检测的方法。
您需要的是cookie。参见下面的代码:
String url = "https://www.indiegala.com/giveaways";
Document doc = Jsoup.connect(url)
.userAgent("Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36")
.header("cookie", "incap_ses_436_255598=zI1vN7X6+BY84PhGvPsMBjKChVcAAAAAVhJ+1//uCecPhV2QjUMw6w==")
.timeout(0)
.get();
这看起来像是网站所需的特定 cookie，将其添加到 header 中已成功为我提供了实际的网站内容:)
注意:通常，如果您遇到这样的情况，您可以轻松地使用 Chrome 开发者工具来检查 Chrome 发送的请求，然后将其复制到您的 Jsoup 请求中:)
关于Java jsoup html解析机器人index/bot检测、noindex，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/38338418/
31
4
0
我的对话 fragment 有问题。我想使用 android:onClick 属性，因为在我看来代码更清晰。 在我的布局中，我有以下声明: 现在我的 DialogFragment import an
我正在制作一个使用谷歌地图的应用程序，我的主要 xml 代码 fragment 如下: 我的java代码是: import android.os.Bundle; import com.googl
是否可以在一个应用程序中有两个单独的首选项？我有一个在运行时连接到外部可执行文件(引擎)的应用程序。应用程序有自己的偏好，引擎也有。这两者不能混用，因为下次用户可能会决定加载具有不同偏好的完全不同的引
这是“Google Catalogs”应用程序的快照。我只是想知道我们如何进行这种图像重叠。![enter image description here][1] 最佳答案 您可以使用 FrameLay
我制作了一个 GridView ，其中添加了图像。但我的问题是它显示的 gridview 尺寸非常小，其中只有 3 张图像，就像图片中那样，我想在其中显示 9 张图像。 小号 但我希望 gridvie
我目前正在学习如何在 Android 上创建和使用服务。我查看了 android SDK 以获得进一步的帮助，我发现了 android:enable=[true |假]。 在SDK中是这样说的: Th
在完成我的 Android 游戏时，我希望用户将他/她的分数与高分进行比较。为此，我将当前的最高分存储在 SQLite 数据库中。但我认为我的方法(似乎可行)笨拙且丑陋: //in the final
出于某种原因，谷歌没有为模拟器提供任何通知声音，我找不到任何关于如何加载通知声音的引用。 我遇到过这个线程:How to play ringtone/alarm sound in Android但是除
我的应用有以下样式: true #ffffff true 它在我使用的大多数手机上运行良好。 (LG G5、Nexus 5、Moto G)但是当我在 LeEco Pro
我想确保我的网站阻止 Selenium 和 QTP 等自动化工具。有没有办法做到这一点 ？网站上的哪些设置会导致 Selenium 失败？ 最佳答案 适当考虑对原始问题“你到底为什么要这样做？”的评论
我正在处理我的联系表，我希望它尽可能地防止垃圾邮件。我正在使用一些方法作为反击: 使用 JavaScript 正则表达式验证电子邮件的合法性 验证所有字段是否具有足够的值 制作一个不可见的字段来吸引机
It's difficult to tell what is being asked here. This question is ambiguous, vague, incomplete, over
我正在制作一个 android 应用程序，我需要在我的应用程序中显示远程图像我使用以下代码。但图像未显示: for(int i=0;i
我有几个与 Android 操作系统中的 AIML 集成相关的问题。我对 Java 了解不多，但我对 AIML 了解很多。我制作了 AIML 文件，现在我想做的是制作一个可以加载文件并在 GUI 中运
我有一个具有“登录”和“注销”操作的应用程序。用户登录后，在他们注销时堆栈中可能还剩下任意数量的 Activity 。 当用户注销时，我希望重置所有应用程序状态。我清除了我的磁盘缓存和首选项，但在运行
我是 Android 应用程序开发的新手，我正在尝试开发一个可用的应用程序。但是我创建的这个页面自创建以来就出现了问题，我真的希望有人能帮助我解决这个问题。每次我运行这个程序时，应用程序都会关闭。 这
我尝试将 android:imeOptions 设置为 actionSend、actionSearch。但是键盘上没有“发送”或“搜索”按钮，只有普通的“Enter”键。我还尝试设置不同的输入类型。
我想创建一种方法来查看相机坐标的中心是否在某个区域的边界内，如果是，则执行一些操作。 当我尝试这样做时，出现错误:Operator !不能应用于 LatLngBounds。 我也试过 if(temp
我正在尝试将视频录制时长限制为 5 秒。我正在使用默认相机和此代码: intent.putExtra(MediaStore.EXTRA_DURATION_LIMIT, 5); 现在它在三星 S6 上工
我正在开发一款安卓游戏 https://code.google.com/p/something-soft/我的日志猫说它正试图激发游戏的 Intent ，但随后主线程似乎死了(出现 ActivityN
我是一名优秀的程序员,十分优秀！