作者热门文章
- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
有函数可以随机化溢出的数据
trainingRDD, validationRDD, testRDD = RDD.randomSplit([6, 2, 2], seed=0L)
我很好奇是否有一种方法可以在相同的分区(train 60/valid 20/test 20)但没有随机化(假设使用当前数据拆分前 60 = train, next 20 =valid and last 20 are for test data)
有没有一种可能的方法来拆分数据,类似于拆分但不是随机化的方式?
最佳答案
这里的基本问题是,除非你的数据中有一个索引列,否则你的 RDD 中没有“第一行”和“下一行”的概念,它只是一个无序集合。如果你有一个整数索引列,你可以这样做:
train = RDD.filter(lambda r: r['index'] % 5 <= 3)
validation = RDD.filter(lambda r: r['index'] % 5 == 4)
test = RDD.filter(lambda r: r['index'] % 5 == 5)
关于派斯帕克 : how to split data without randomnize,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35593971/
我是一名优秀的程序员,十分优秀!