apache-spark - 使用 Spark 的 partitionBy 方法对 S3 中的大型倾斜数据集进行分区-6ren

apache-spark - 使用 Spark 的 partitionBy 方法对 S3 中的大型倾斜数据集进行分区

转载作者：行者123 更新时间：2023-12-04 14:54:05

24

4

我正在尝试使用 Spark 和 partitionBy 将一个大的分区数据集写入磁盘。算法正在与我尝试过的两种方法作斗争。

分区严重倾斜 - 一些分区很大，而其他分区很小。

问题 #1 :

当我之前使用重新分区时 repartitionBy , Spark 将所有分区写成一个文件，即使是大分区

val df = spark.read.parquet("some_data_lake")
df
  .repartition('some_col).write.partitionBy("some_col")
  .parquet("partitioned_lake")

这需要永远执行，因为 Spark 没有并行写入大分区。如果其中一个分区有 1TB 的数据，Spark 会尝试将整个 1TB 的数据写入单个文件。

问题#2 :

当我不使用时 repartition , Spark 写出太多文件。

这段代码将写出数量惊人的文件。

df.write.partitionBy("some_col").parquet("partitioned_lake")

我在一个很小的 8 GB 数据子集上运行它，Spark 写出了 85,000 多个文件!

当我尝试在生产数据集上运行它时，一个包含 1.3 GB 数据的分区被写出为 3,100 个文件。

我想要什么

我希望每个分区都被写成 1 GB 的文件。因此，具有 7 GB 数据的分区将作为 7 个文件写出，而具有 0.3 GB 数据的分区将作为单个文件写出。

我最好的前进道路是什么？

最佳答案

最简单的解决方案是在 repartition 中添加一列或多列并明确设置分区数。

val numPartitions = ???

df.repartition(numPartitions, $"some_col", $"some_other_col")
 .write.partitionBy("some_col")
 .parquet("partitioned_lake")

在哪里:

numPartitions - 应该是写入分区目录的所需文件数量的上限(实际数量可以更低)。

$"some_other_col" (和可选的附加列)应该具有高基数并且独立于 $"some_column (这两者之间应该存在函数依赖关系，并且不应该高度相关)。

如果数据不包含此类列，您可以使用 o.a.s.sql.functions.rand .

import org.apache.spark.sql.functions.rand

df.repartition(numPartitions, $"some_col", rand)
  .write.partitionBy("some_col")
  .parquet("partitioned_lake")

关于apache-spark - 使用 Spark 的 partitionBy 方法对 S3 中的大型倾斜数据集进行分区，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/53037124/

24

4

0

文章推荐：使用 R 替换包含 NA 的数据框中多列的异常值

文章推荐： elixir - 从列表中删除多个元素

Ruby 方法() 方法
我想了解 Ruby 方法 methods() 是如何工作的。我尝试使用“ruby 方法”在 Google 上搜索，但这不是我需要的。我也看过 ruby-doc.org，但我没有找到这种方法。
VBS教程：方法-Test 方法
Test 方法对指定的字符串执行一个正则表达式搜索，并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
VBS教程：方法-Replace 方法
Replace 方法替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
VBS教程：方法-Raise 方法
Raise 方法生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
VBS教程：方法-Execute 方法
Execute 方法对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
VBS教程：方法-Clear 方法
Clear 方法清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。说明在错误处理后，使用 Clear 显式地清除 Err 对象。此
VBS教程：方法-CopyFile 方法
CopyFile 方法将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
VBS教程：方法-Copy 方法
Copy 方法将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
VBS教程：方法-Close 方法
Close 方法关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。说明下面例子举例说明如何使用 Close 方
VBS教程：方法-BuildPath 方法
BuildPath 方法向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
VBS教程：方法-GetFolder 方法
GetFolder 方法返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
VBS教程：方法-GetFileName 方法
GetFileName 方法返回指定路径（不是指定驱动器路径部分）的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
VBS教程：方法-GetFile 方法
GetFile 方法返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
VBS教程：方法-GetExtensionName 方法
GetExtensionName 方法返回字符串，该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
VBS教程：方法-GetDriveName 方法
GetDriveName 方法返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
VBS教程：方法-GetDrive 方法
GetDrive 方法返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
VBS教程：方法-GetBaseName 方法
GetBaseName 方法返回字符串，其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
VBS教程：方法-GetAbsolutePathName 方法
GetAbsolutePathName 方法从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
VBS教程：方法-FolderExists 方法
FolderExists 方法如果指定的文件夹存在，则返回 True；否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
VBS教程：方法-FileExists 方法
FileExists 方法如果指定的文件存在返回 True；否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS

首页

博学

6Ren·AI

商城

apache-spark - 使用 Spark 的 partitionBy 方法对 S3 中的大型倾斜数据集进行分区