algorithm - 计算大数据集分位数的增量方法-6ren

algorithm - 计算大数据集分位数的增量方法

转载作者：塔克拉玛干更新时间：2023-11-03 02:31:01

25

4

我需要计算大量数据的分位数。

假设我们只能通过某些部分(即大矩阵的一行)获取数据。要计算 Q3 分位数，需要获取数据的所有部分并将其存储在某处，然后对其进行排序并计算分位数:

List<double> allData = new List<double>();
// This is only an example; the portions of data are not really rows of some matrix
foreach(var row in matrix) 
{
    allData.AddRange(row);
}

allData.Sort();
double p = 0.75 * allData.Count;
int idQ3 = (int)Math.Ceiling(p) - 1;
double Q3 = allData[idQ3];

我想找到一种无需将数据存储在中间变量中即可获得分位数的方法。最好的解决方案是在第一行计算中间结果的一些参数，然后在接下来的行中逐步调整它。

注意:

这些数据集非常大(每行约 5000 个元素)
Q3 可以估算，不一定是精确值。
我将数据的各个部分称为“行”，但它们可以有不同的长度!通常它变化不大(+/- 几百个样本)但它会变化!

这个问题类似于“On-line” (iterator) algorithms for estimating statistical median, mode, skewness, kurtosis ，但我需要计算分位数。

此外，该主题的文章也很少，即:

在尝试实现这些方法之前，我想知道是否还有其他更快的方法来计算 0.25/0.75 分位数？

最佳答案

我支持使用存储桶的想法。不要将自己限制在 100 个桶 - 还不如使用 100 万个。棘手的部分是选择你的桶范围，这样所有的东西都不会落在一个桶里。估计存储桶范围的最佳方法可能是对数据进行合理的随机抽样，使用简单排序算法计算 10% 和 90% 的分位数，然后生成大小相等的存储桶来填充该范围。它并不完美，但如果您的数据不是来自 super 奇怪的分布，它应该可以工作。

如果您不能进行随机抽样，您的麻烦就更大了。您可以根据您的预期数据分布选择一个初始分桶猜测，然后在处理您的数据时，如果任何分桶(通常是第一个或最后一个分桶)变得过满，则使用新的分桶范围重新开始。

关于algorithm - 计算大数据集分位数的增量方法，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/2837311/

25

4

0

文章推荐： algorithm - 超集搜索

文章推荐： google-analytics - 通用 Google Analytics - 虚拟网页浏览跟踪

文章推荐： php - 自动修复损坏的 Web 链接

文章推荐： algorithm - 图的 k-顶点连通性

Ruby 方法() 方法
我想了解 Ruby 方法 methods() 是如何工作的。我尝试使用“ruby 方法”在 Google 上搜索，但这不是我需要的。我也看过 ruby-doc.org，但我没有找到这种方法。
VBS教程：方法-Test 方法
Test 方法对指定的字符串执行一个正则表达式搜索，并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
VBS教程：方法-Replace 方法
Replace 方法替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
VBS教程：方法-Raise 方法
Raise 方法生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
VBS教程：方法-Execute 方法
Execute 方法对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
VBS教程：方法-Clear 方法
Clear 方法清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。说明在错误处理后，使用 Clear 显式地清除 Err 对象。此
VBS教程：方法-CopyFile 方法
CopyFile 方法将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
VBS教程：方法-Copy 方法
Copy 方法将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
VBS教程：方法-Close 方法
Close 方法关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。说明下面例子举例说明如何使用 Close 方
VBS教程：方法-BuildPath 方法
BuildPath 方法向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
VBS教程：方法-GetFolder 方法
GetFolder 方法返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
VBS教程：方法-GetFileName 方法
GetFileName 方法返回指定路径（不是指定驱动器路径部分）的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
VBS教程：方法-GetFile 方法
GetFile 方法返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
VBS教程：方法-GetExtensionName 方法
GetExtensionName 方法返回字符串，该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
VBS教程：方法-GetDriveName 方法
GetDriveName 方法返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
VBS教程：方法-GetDrive 方法
GetDrive 方法返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
VBS教程：方法-GetBaseName 方法
GetBaseName 方法返回字符串，其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
VBS教程：方法-GetAbsolutePathName 方法
GetAbsolutePathName 方法从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
VBS教程：方法-FolderExists 方法
FolderExists 方法如果指定的文件夹存在，则返回 True；否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
VBS教程：方法-FileExists 方法
FileExists 方法如果指定的文件存在返回 True；否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS

首页

博学

6Ren·AI

商城

algorithm - 计算大数据集分位数的增量方法