python - 'str' 对象没有属性 'flatMap'

Question

我是 Python 的新手。我安装了带有 PySpark 内核 (Spark 2.2.0) 的 Anaconda3 – 4.4.0。

我正在尝试在我的 Windows 7 操作系统上使用一个简单的文本文件来测试一个简单的脚本，以确保我的 Python 安装的某些功能正常工作。

这是我的脚本:

 word_counts = ('C:\\Users\\oakins1p\\WeeklyMeeting.txt') \
.flatMap(lambda line: line.split()) \
.map(lambda word: (word, 1)) \
.reduceByKey(lambda a, b: a + b)\
.saveAsTextFile('C:\\Users\\oakins1p\\WeeklyMeetingOutput.txt')\`

我不断收到 AttributeError: 'str' object has no attribute 'flatMap' 并且我不确定如何解决这个问题。

Answer 1

word_counts 是一个字符串，不能简单地对其调用 flatMap()。

首先尝试使用 textFile() 读取文件，如下所示:

from pyspark import SparkContext
sc = SparkContext.getOrCreate()
word_counts = sc.textFile(filepath).flatMap()...

受此启发example .