algorithm - 检测网页抓取的方法-6ren

algorithm - 检测网页抓取的方法

转载作者：塔克拉玛干更新时间：2023-11-03 02:25:38

24

4

我需要检测我网站上的信息抓取。我尝试了基于行为模式的检测，虽然计算量相对较大，但似乎很有希望。

基础是收集特定客户端的请求时间戳，并将其行为模式与常见模式或预先计算的模式进行比较。

更准确地说，我将请求之间的时间间隔收集到数组中，按时间函数索引:

i = (integer) ln(interval + 1) / ln(N + 1) * N + 1
Y[i]++
X[i]++ for current client

其中 N 是时间(计数)限制，大于 N 的间隔将被丢弃。最初 X 和 Y 都用 1 填充。

然后，当我在 X 和 Y 中得到足够数量的它们之后，就该做出决定了。 Criteria 是参数 C:

C = sqrt(summ((X[i]/norm(X) - Y[i]/norm(Y))^2)/k)

其中X为特定客户端数据，Y为普通数据，norm()为校准函数，k为归一化系数，取决于norm()的类型。有 3 种类型:

norm(X) = summ(X)/count(X), k = 2
norm(X) = sqrt(summ(X[i]^2), k = 2
norm(X) = max(X[i]), k是非空元素个数X的平方根

C 在范围 (0..1) 内，0 表示没有行为偏差，1 表示最大偏差。

C 校准类型 1 最适合重复请求，类型 2 最适合间隔很少的重复请求，类型 3 最适合非恒定请求间隔。

你怎么看？如果您能在您的服务上尝试这个，我将不胜感激。

最佳答案

老实说，您的方法完全没有值(value)，因为它是微不足道的绕过。攻击者甚至不必编写一行代码来绕过它。代理服务器是 free你可以在 amazon ec2 上用新的 ip 地址启动一台新机器，每小时 2 美分。

更好的方法是 Roboo它使用 cookie 技术来阻止机器人。绝大多数机器人无法运行 javascript 或 flash，而这可以为您所用。

然而，所有这些“(in) security though obscurity”，以及它可能起作用的唯一原因是因为您的数据不值得程序员在上面花费 5 分钟。 (包括机器人)

关于algorithm - 检测网页抓取的方法，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/5372115/

24

4

0

文章推荐： algorithm - 单个 "1"位的 SHA-256 哈希值是多少？

文章推荐： c++ - typedef 标准容器？

文章推荐： c++ - vector 、迭代器和 std::find

文章推荐： C++模板特化问题

Ruby 方法() 方法
我想了解 Ruby 方法 methods() 是如何工作的。我尝试使用“ruby 方法”在 Google 上搜索，但这不是我需要的。我也看过 ruby-doc.org，但我没有找到这种方法。
VBS教程：方法-Test 方法
Test 方法对指定的字符串执行一个正则表达式搜索，并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
VBS教程：方法-Replace 方法
Replace 方法替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
VBS教程：方法-Raise 方法
Raise 方法生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
VBS教程：方法-Execute 方法
Execute 方法对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
VBS教程：方法-Clear 方法
Clear 方法清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。说明在错误处理后，使用 Clear 显式地清除 Err 对象。此
VBS教程：方法-CopyFile 方法
CopyFile 方法将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
VBS教程：方法-Copy 方法
Copy 方法将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
VBS教程：方法-Close 方法
Close 方法关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。说明下面例子举例说明如何使用 Close 方
VBS教程：方法-BuildPath 方法
BuildPath 方法向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
VBS教程：方法-GetFolder 方法
GetFolder 方法返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
VBS教程：方法-GetFileName 方法
GetFileName 方法返回指定路径（不是指定驱动器路径部分）的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
VBS教程：方法-GetFile 方法
GetFile 方法返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
VBS教程：方法-GetExtensionName 方法
GetExtensionName 方法返回字符串，该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
VBS教程：方法-GetDriveName 方法
GetDriveName 方法返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
VBS教程：方法-GetDrive 方法
GetDrive 方法返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
VBS教程：方法-GetBaseName 方法
GetBaseName 方法返回字符串，其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
VBS教程：方法-GetAbsolutePathName 方法
GetAbsolutePathName 方法从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
VBS教程：方法-FolderExists 方法
FolderExists 方法如果指定的文件夹存在，则返回 True；否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
VBS教程：方法-FileExists 方法
FileExists 方法如果指定的文件存在返回 True；否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS

首页

博学

6Ren·AI

商城

algorithm - 检测网页抓取的方法