gpt4 book ai didi

apache-spark - 从位置定界文件读取 Spark

转载 作者:行者123 更新时间:2023-12-02 20:33:51 26 4
gpt4 key购买 nike

我在尝试将文件沿n个字符长度的记录拆分为分布式系统时遇到问题。我具有分解记录并将其映射到记录级别上的专有名称的功能,但是需要从文件到系统上再到分解文件,然后将其以n个长度大小的片段传递给节点进行拆分和处理。

最佳答案

我已经研究了SparkContext对象的规范,并且有一种方法可以从Hadoop环境中提取文件并将其作为字节数组数据帧加载。该函数是byteRecords。

关于apache-spark - 从位置定界文件读取 Spark ,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52047429/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com