作者热门文章
- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在尝试将 spark 版本 2.2.1 更改为 2.4.0
在 spark 2.2 中,以下工作正常。
val query = "(select id, myPartitionColumnString from myTable) query"
val splitColumn = "CHECKSUM(myPartitionColumnString)"
spark.read.jdbc(jdbcUrl, query, splitColumn, lowerBound, upperBound, numPartitions, connectionProperties)
User-defined partition column CHECKSUM(myPartitionColumnString) not found in the JDBC relation: struct<id: int, myPartitionColumnString: string>
最佳答案
他们在引入“通过直接 SQL 查询”功能时删除了它。 2.4.0 中引入了重大更改。这更像是一个黑客,现在没有办法实现这一点。你仍然可以在 2.3 中获得它
PS:如果有人找到另一种方法来实现相同的行为,请与我联系,我很感兴趣
关于apache-spark - 在 Spark 2.4 中,Spark JDBC 是否允许将内置函数指定为 partitionColumn?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/55437941/
我是一名优秀的程序员,十分优秀!