- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我一直在使用 PySpark 在相当大的 RDD 中运行大量计算,其每个 block 如下所示:
ID CHK C1 Flag1 V1 V2 C2 Flag2 V3 V4
341 10 100 TRUE 10 10 150 FALSE 10 14
341 9 100 TRUE 10 10 150 FALSE 10 14
341 8 100 TRUE 14 14 150 FALSE 10 14
341 7 100 TRUE 14 14 150 FALSE 10 14
341 6 100 TRUE 14 14 150 FALSE 10 14
341 5 100 TRUE 14 14 150 FALSE 10 14
341 4 100 TRUE 14 14 150 FALSE 12 14
341 3 100 TRUE 14 14 150 FALSE 14 14
341 2 100 TRUE 14 14 150 FALSE 14 14
341 1 100 TRUE 14 14 150 FALSE 14 14
341 0 100 TRUE 14 14 150 FALSE 14 14
我有很多 ID(它取决于 C1 值,例如从 100 到 130 等等,对于许多 C1,对于每个整数,我有一组 11 行,就像上面的那样)并且我有很多 ID .我需要做的是在每一行的组中应用一个公式并添加两列来计算:
D1 = ((row.V1 - prev_row.V1)/2)/((row.V2 + prev_row.V2)/2)
D2 = ((row.V3 - prev_row.V3)/2)/((row.V4 + prev_row.V4)/2)
我所做的(正如我在这篇有用的文章中发现的:https://arundhaj.com/blog/calculate-difference-with-previous-row-in-pyspark.html)是定义一个窗口:
my_window = Window.partitionBy().orderBy(desc("CHK"))
我为每个中间计算创建了一个“临时”列:
df = df.withColumn("prev_V1", lag(df.V1).over(my_window))
df = df.withColumn("prev_V21", lag(df.TA1).over(my_window))
df = df.withColumn("prev_V3", lag(df.SSQ2).over(my_window))
df = df.withColumn("prev_V4", lag(df.TA2).over(my_window))
df = df.withColumn("Sub_V1", F.when(F.isnull(df.V1 - df.prev_V1), 0).otherwise((df.V1 - df.prev_V1)/2))
df = df.withColumn("Sub_V2", (df.V2 + df.prev_V2)/2)
df = df.withColumn("Sub_V3", F.when(F.isnull(df.V3 - df.prev_V3), 0).otherwise((df.V3 - df.prev_V3)/2))
df = df.withColumn("Sub_V4", (df.V4 + df.prev_V4)/2)
df = df.withColumn("D1", F.when(F.isnull(df.Sub_V1 / df.Sub_V2), 0).otherwise(df.Sub_V1 / df.Sub_V2))
df = df.withColumn("D2", F.when(F.isnull(df.Sub_V3 / df.Sub_V4), 0).otherwise(df.Sub_V3 / df.Sub_V4))
最后我摆脱了临时列:
final_df = df.select(*columns_needed)
花了很长时间,我不断得到:
WARN WindowExec: No Partition Defined for Window operation! Moving all data to a single partition, this can cause serious performance degradation.
我知道我没有正确地执行此操作,因为上面的代码块位于几个 for 循环内,以便对所有 ID 进行计算,即循环使用:
unique_IDs = list(df1.toPandas()['ID'].unique())
但在深入了解 PySpark 窗口函数后,我相信通过正确设置窗口 partitionBy(),我可以更轻松地获得相同的结果。
我查看了 Avoid performance impact of a single partition mode in Spark window functions但我仍然不确定如何正确设置我的窗口分区以使其正常工作。
有人可以就如何解决这个问题提供一些帮助或见解吗?
谢谢
最佳答案
我假设公式必须应用于每组 ID(这就是我选择按“ID”进行分区的原因)。
你可以避免像这样使用'temp'列:
# used to define the lag of a specific column
w_lag=Window.partitionBy("id","C1").orderBy(desc('chk'))
df = df.withColumn('D1',((df.V1-F.lag(df.V1).over(w_lag))/2)\
/((df.V2+F.lag(df.V2).over(w_lag))/2))
df = df.withColumn('D2',((df.V3-F.lag(df.V3).over(w_lag))/2)\
/((df.V4+F.lag(df.V4).over(w_lag))/2))
结果是:
+---+---+---+-----+---+---+---+-----+---+---+-------------------+-------------------+
| id|chk| C1|Flag1| V1| V2| C2|Flag2| V3| V4| D1| D2|
+---+---+---+-----+---+---+---+-----+---+---+-------------------+-------------------+
|341| 10|100| true| 10| 10|150| true| 10| 14| null| null|
|341| 9|100| true| 10| 10|150| true| 10| 14| 0.0| 0.0|
|341| 8|100| true| 14| 14|150| true| 10| 14|0.16666666666666666| 0.0|
|341| 7|100| true| 14| 14|150| true| 10| 14| 0.0| 0.0|
|341| 6|100| true| 14| 14|150| true| 10| 14| 0.0| 0.0|
|341| 5|100| true| 14| 14|150| true| 10| 14| 0.0| 0.0|
|341| 4|100| true| 14| 14|150| true| 12| 14| 0.0|0.07142857142857142|
|341| 3|100| true| 14| 14|150| true| 14| 14| 0.0|0.07142857142857142|
|341| 2|100| true| 14| 14|150| true| 14| 14| 0.0| 0.0|
|341| 1|100| true| 14| 14|150| true| 14| 14| 0.0| 0.0|
|341| 0|100| true| 14| 14|150| true| 14| 14| 0.0| 0.0|
+---+---+---+-----+---+---+---+-----+---+---+-------------------+-------------------+
关于python - PySpark 窗口函数理解,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46546634/
我在数据框中有一列月份数字,想将其更改为月份名称,所以我使用了这个: df['monthName'] = df['monthNumber'].apply(lambda x: calendar.mont
Pyspark 中是否有一个 input() 函数,我可以通过它获取控制台输入。如果是,请详细说明一下。 如何在 PySpark 中编写以下代码: directory_change = input("
我们正在 pyspark 中构建数据摄取框架,并想知道处理数据类型异常的最佳方法是什么。基本上,我们希望有一个拒绝表来捕获所有未与架构确认的数据。 stringDf = sparkSession.cr
我正在开发基于一组 ORC 文件的 spark 数据框的 sql 查询。程序是这样的: from pyspark.sql import SparkSession spark_session = Spa
我有一个 Pyspark 数据框( 原始数据框 )具有以下数据(所有列都有 字符串 数据类型): id Value 1 103 2
我有一台配置了Redis和Maven的服务器 然后我执行以下sparkSession spark = pyspark .sql .SparkSession .builder .master('loca
从一些简短的测试来看,pyspark 数据帧的列删除功能似乎不区分大小写,例如。 from pyspark.sql import SparkSession from pyspark.sql.funct
我有: +---+-------+-------+ | id| var1| var2| +---+-------+-------+ | a|[1,2,3]|[1,2,3]| | b|[2,
从一些简短的测试来看,pyspark 数据帧的列删除功能似乎不区分大小写,例如。 from pyspark.sql import SparkSession from pyspark.sql.funct
我有一个带有多个数字列的 pyspark DF,我想为每一列根据每个变量计算该行的十分位数或其他分位数等级。 这对 Pandas 来说很简单,因为我们可以使用 qcut 函数为每个变量创建一个新列,如
我有以下使用 pyspark.ml 包进行线性回归的代码。但是,当模型适合时,我在最后一行收到此错误消息: IllegalArgumentException: u'requirement failed
我有一个由 | 分隔的平面文件(管道),没有引号字符。示例数据如下所示: SOME_NUMBER|SOME_MULTILINE_STRING|SOME_STRING 23|multiline text
给定如下模式: root |-- first_name: string |-- last_name: string |-- degrees: array | |-- element: struc
我有一个 pyspark 数据框如下(这只是一个简化的例子,我的实际数据框有数百列): col1,col2,......,col_with_fix_header 1,2,.......,3 4,5,.
我有一个数据框 +------+--------------------+-----------------+---- | id| titulo |tipo | formac
我从 Spark 数组“df_spark”开始: from pyspark.sql import SparkSession import pandas as pd import numpy as np
如何根据行号/行索引值删除 Pyspark 中的行值? 我是 Pyspark(和编码)的新手——我尝试编码一些东西,但它不起作用。 最佳答案 您不能删除特定的列,但您可以使用 filter 或其别名
我有一个循环生成多个因子表的输出并将列名存储在列表中: | id | f_1a | f_2a | |:---|:----:|:-----| |1 |1.2 |0.95 | |2 |0.7
我正在尝试将 hql 脚本转换为 pyspark。我正在努力如何在 groupby 子句之后的聚合中实现 case when 语句的总和。例如。 dataframe1 = dataframe0.gro
我想添加新的 2 列值服务 arr 第一个和第二个值 但我收到错误: Field name should be String Literal, but it's 0; production_targe
我是一名优秀的程序员,十分优秀!