- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我编写了一个应用程序,它可以简单地解析指定网站的网页列表并使用 JSoup 提取内容。
问题是,使用我的 IP,我每天最多可以从我的列表中请求 3 个特定页面(在同一域上),在这 3 个页面之后,我尝试的每个请求都会重定向到一个要求我接下来返回的页面一天再提出 3 个请求。
我想做的是让我的应用程序每 3 个请求更改一次 IP。
我已经测试了 SilverTunnel 和 JTor(允许我为我的请求每 3 个请求获取一个新的身份 IP),但是这些库的文档记录很差,并且几乎没有示例说明如何每 N 个周期更改我的身份)。
我问是否有人知道如何让我的应用程序更改我的 IP、屏蔽它,甚至向我的 ISP 请求使用特定的 IPV6,并使用新的不同的 IPV6 来释放更改。
有人知道该问题的解决方案或测试过类似的东西吗?
谢谢大家。
最佳答案
此用例的最佳解决方案是向网站请求您所做的事情的许可。然后,他们会将您列入白名单,或者更好的是,将您指向一个内部 API,您可以在其中以比 HTML 更有效的方式获取有趣的数据。
[编辑]我还没有听说过这方面的(合法)技术解决方案。犯罪分子使用包含数千台被黑客入侵的计算机的巨大僵尸网络来进行此类 Activity ,但我强烈建议您远离这种情况。
我还没有遇到过每天只允许下载 3 次的页面。这种严格的限制告诉我那些人真的很痴迷于他们的数据。试图绕过他们的防御可能会给你带来麻烦(无论从你的角度来看这有多愚蠢)。如果他们和您都在美国,请准备好因违反CFAA而被起诉。 This has happened before for lesser reasons .
现在一些技术细节。你没有说你如何连接到互联网。如果您通过 DHCP 接收 IP,则需要要求 ISP 提供不同的地址。对于他们来说,这将是一个手动过程,因此请准备好发现他们方面没有什么热情。
Tor 听起来像是一个很好的解决方案,因为 Onion routing每次都应该使用不同的退出节点发出您的请求。但只有(相对)少量的退出节点,因此很可能在相对较短的时间后,您将尝试每个节点三次(如果其他人与您连接到相同的服务,情况会变得更糟)。
[EDIT2] 一种可能的解决方案可能是成为 ISP 并正式购买 IP 地址 block (就像任何普通 ISP 所做的那样)。
IPv6 block 不应该那么昂贵,但请注意,如果该服务仅适用于 IPv4,它们将无法为您带来任何帮助!如果是这种情况,那么您和服务之间将有一个 IPv6 到 IPv4 的桥接器,并且它会认为您始终使用相同的地址。
目前尝试购买 IPv4 地址是 probably hopeless (好吧,如果你愿意花很多钱,也许你可以获得一个区 block )。
关于Java:如何在应用程序的每个周期请求一个新的 IP,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19156143/
给定的输入是192.168.3.78/27 输入可以是任意C类ip地址,以上ip为例进行尝试 预期输出应显示从 192.168.3.65 到 192.168.3.94 的所有 IP如下 192.168
您好,我是一名 javascript 菜鸟,正在为 IP 范围编写验证器。例如,1.1.1.1-2.2.2.2 是一个有效范围,但我想确保第一个 IP 不大于第二个 IP。 2.2.2.2-1.1.1
在 MySQL 数据库中存储多种 IP 类型的最佳方式是什么: - 单一 IP (123.123.123.123) - IP 范围 (123.123.123.1 - 123.123.123.121)
所以我有一个带有子网的 IP:8.8.8.0/24 我如何将其转换为 8.8.8.0 和 8.8.8.255(实际上是它们的 ip2long 结果) 在 PHP 和 JavaScript 中 最佳答案
我有 Windows7 作为我的基本操作系统。最重要的是,我在 Ubuntu 上安装了 Virtual Box。我希望 ubuntu 获得与我的基本操作系统(Win7)相同的 IP 地址。我如何实现这
关闭。这个问题是off-topic .它目前不接受答案。 想改善这个问题吗? Update the question所以它是 on-topic对于堆栈溢出。 9年前关闭。 Improve this q
阅读后List of IP Space used by Facebook : “真实”列表是最后一个答案,但我想知道 Igy(答案标记为解决方案)如何通过将连续的类添加到更大的类中来大幅缩小列表(通过
我正在开发一个 web 应用程序,我已经在我的本地主机中创建了这个项目,但是网络用户需要访问我的项目,我不想给他们一个不友好的 ip 地址,所以我想用户访问一个名称例子 http://myprojec
有人可以向我解释 Azure 在逻辑应用程序的出站 IP 地址之间不同的新方式之间的区别。 我认为文档在对该问题的正确解释方面非常精简。读起来听起来好像 IP 地址在逻辑应用程序中具有完全相同的作用。
我正在尝试熟悉一个项目中java中的数据报系统,目前,我们只使用UDP包。 为了发送消息,我们在 DatagramPacket 上设置目标 IP。 /* * The fields o
我有一个 Java 服务器,当我获得连接时,我需要检查 IP 是本地 IP 还是公共(public) IP。当它是我自己的本地 IP 时,我可以检测到它,但我在使用其他本地 IP 时遇到了一些问题。J
所以我在网上看到了很多例子,这些例子展示了如果你知道起始 IP 和结束 IP 如何获得完整的 IP,但我需要的是在提供后告诉我完整的 IP 范围带有起始 IP 和所需 IP 地址数的代码。 因此,例如
我创建了一个 python 项目,用于扫描 IP 范围(即 x.y.z.0/24)并返回在线主机列表。它将在线主机列表保存到仅包含 IP 的文件中(即 ['192.168.0.1'、'192.168.
如果用户的 ip 在某个 IP 范围之间,我正在使用重定向。但是,我正在使用多个 ip 范围,所以我想知道执行此操作的最佳方法。我目前正在使用它来重定向, 但是如果 IP 范围是 72.122.166
好的,现在是星期五下午,我度过了漫长的一周,希望能得到一些帮助!目前,我有一个 IP 范围列表,如下所示: List ipRanges = new List(); ipRanges.Add(new I
关闭。这个问题是off-topic .它目前不接受答案。 想改进这个问题吗? Update the question所以它是on-topic用于堆栈溢出。 关闭 10 年前。 Improve thi
下面是我的 CloudFormation 模板的片段,用于将弹性 IP 地址与网络接口(interface)的主 IP 相关联: "MyInterfaceSelfEipAssociat
我在 Azure 上创建了 Python 函数,该函数调用外部 API 服务,该服务仅允许访问白名单 IP。 根据 Microsoft 文档 ( https://learn.microsoft.com
我在 Azure 上创建了 Python 函数,该函数调用外部 API 服务,该服务仅允许访问白名单 IP。 根据 Microsoft 文档 ( https://learn.microsoft.com
我在我的 CentOS 5 x86_64 中使用 IP 别名。为简化此示例:IP 地址 A 是 eth0 地址,IP 地址 B 是 eth0:0地址。我有 2 个 Apache 实例(版本 2.2.3
我是一名优秀的程序员,十分优秀!