作者热门文章
- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在使用 pyspark,想知道是否有任何智能方法可以获取数组的一行条目和整列之间的欧几里德距离。例如,有一个这样的数据集。
+--------------------+---+
| features| id|
+--------------------+---+
|[0,1,2,3,4,5 ...| 0|
|[0,1,2,3,4,5 ...| 1|
|[1,2,3,6,7,8 ...| 2|
选择其中一列,即 id==1,并计算欧氏距离。在这种情况下,结果应为 [0,0,sqrt(1+1+1+9+9+9)]。有人能弄清楚如何有效地做到这一点吗?谢谢!
最佳答案
如果您想要欧几里得作为带有列的固定条目,只需执行此操作即可。
import pyspark.sql.functions as F
from pyspark.sql.types import FloatType
from scipy.spatial import distance
fixed_entry = [0,3,2,7...] #for example, the entry against which you want distances
distance_udf = F.udf(lambda x: float(distance.euclidean(x, fixed_entry)), FloatType())
df = df.withColumn('distances', distance_udf(F.col('features')))
您的 df 将有一列距离。
关于Pyspark 条目和列之间的欧氏距离,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46725290/
我是一名优秀的程序员,十分优秀!