- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我使用从 HBase 中提取的数据在 PySpark 中创建了两个 RDD。我想收集具有相同行键的项目,存储这些项目,然后搜索与每个项目关联的值。理想情况下,我会将结果存储在 pyspark.sql 对象中,因为我想将 Levenshtein 距离应用于它们的内容。
详细信息:
在 HBase 中,我有位置数据,其中行键是给定区域的 geohash,在列中,该区域中有多个地点,其中包含更多关于位置的详细信息(带有描述和其他文本数据的 json)。我有两个 HBase 表,它们的位置可以相同。我想搜索这两个 RDD 中的数据,检查相似的 geohashes 并将结果存储在新的数据结构中。
我不想重新发明轮子,而且我刚刚开始学习 Spark,因此我想知道:完成此类任务的最佳方法是什么?内置函数 rdd.intersection 是一个好的解决方案吗?
最佳答案
已编辑:实际上感谢@Aneel 的评论,我可以纠正我的一些错误。实际上有一个对 RDD 的 join 调用给出了相同的(连接是在 RDD 的第一列上完成的,值是两个 RDD 其余列的元组),作为一个调用 使用 Spark SQL 的 JOIN
给出了结果,而不是像之前指出的那样执行 cogroup
,因为正如@Aneel 指出的那样 cogroup
在一个单一的下压缩键值对键。
现在换个说法,我尝试了@Aneel 的方法和上面的要点,并尝试对其进行一些基准测试,这是结果,使用 Databricks 的社区版(非常小的集群,6GB 内存,1 个核心和 Spark 2.1),这是 link 。 (代码也在文末)
结果如下:
实际上,对于小型数据集,RDD 似乎比 Dataframes 更快,但是一旦达到阈值(大约 250k 条记录),Dataframes join 开始变得更快
现在正如@Aneel 所建议的那样,请记住我做了一个非常简单的示例,您可能想对自己的数据集和环境进行一些测试(我在我的 2 个列表中没有超过 1000 万行,因为初始化已经用了 2.6 分钟)。
初始化代码:
#Init code
NUM_TESTS=100
from random import randint
l1 = []
l2 = []
import timeit
for i in xrange(0, 10000000):
t = (randint(0,2000), randint(0,2000))
v = randint(0,2000)
l1.append((t,v))
if (randint(0,100) > 25): #at least 25% of the keys should be similar
t = (randint(0,2000), randint(0,2000))
v = randint(0,2000)
l2.append((t,v))
rdd1 = sc.parallelize(l1)
rdd2 = sc.parallelize(l2)
Spark SQL 测试:
#Test Spark SQL
def callable_ssql_timeit():
df1 = spark.createDataFrame(rdd1).toDF("id", "val")
df1.createOrReplaceTempView("table1")
df2 = spark.createDataFrame(rdd2).toDF("id", "val")
df2.createOrReplaceTempView("table2")
query="SELECT * FROM table1 JOIN table2 ON table1.id=table2.id"
spark.sql(query).count()
print(str(timeit.timeit(callable_ssql_timeit, number=NUM_TESTS)/float(NUM_TESTS)) + "s")
RDD连接测试:
#Test RDD join
def callable_rdd_timeit():
rdd1.join(rdd2).count()
print(str(timeit.timeit(callable_rdd_timeit, number=NUM_TESTS)/float(NUM_TESTS)) + "s")
关于python - 使用来自多个 RDD 的相同键提取和保存值的最佳方法,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45239392/
我想了解 Ruby 方法 methods() 是如何工作的。 我尝试使用“ruby 方法”在 Google 上搜索,但这不是我需要的。 我也看过 ruby-doc.org,但我没有找到这种方法。
Test 方法 对指定的字符串执行一个正则表达式搜索,并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
Replace 方法 替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
Raise 方法 生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
Execute 方法 对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
Clear 方法 清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。 说明 在错误处理后,使用 Clear 显式地清除 Err 对象。此
CopyFile 方法 将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
Copy 方法 将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
Close 方法 关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。 说明 下面例子举例说明如何使用 Close 方
BuildPath 方法 向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
GetFolder 方法 返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
GetFileName 方法 返回指定路径(不是指定驱动器路径部分)的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
GetFile 方法 返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
GetExtensionName 方法 返回字符串,该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
GetDriveName 方法 返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
GetDrive 方法 返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
GetBaseName 方法 返回字符串,其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
GetAbsolutePathName 方法 从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
FolderExists 方法 如果指定的文件夹存在,则返回 True;否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
FileExists 方法 如果指定的文件存在返回 True;否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS
我是一名优秀的程序员,十分优秀!