- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我有一个 spark 数据框,结果,它有两个我想转换为数字的字符串列:
>>> results.show()
+--------------------+-----------------+------------------------+
| Hospital Name|HCAHPS Base Score|HCAHPS Consistency Score|
+--------------------+-----------------+------------------------+
|"ADIRONDACK MEDIC...| "43"| "20"|
|"BAYLOR MEDICAL C...| "32"| "20"|
|"GOOD SHEPHERD ME...| "25"| "20"|
|"GOOD SHEPHERD ME...| "25"| "20"|
|"MASONIC HOME AND...| "Not Available"| "Not Available"|
|"ST HELENA HOSPITAL"| "41"| "20"|
| "TOURO INFIRMARY"| "15"| "18"|
|"WAHIAWA GENERAL ...| "17"| "10"|
|"ANNA JAQUES HOSP...| "27"| "18"|
| "CMC-BLUE RIDGE"| "31"| "18"|
|"EVANSTON REGIONA...| "15"| "15"|
|"OKLAHOMA SPINE H...| "79"| "20"|
|"PICKENS COUNTY M...| "Not Available"| "Not Available"|
|"PORTNEUF MEDICAL...| "11"| "17"|
|"PRESENCE SAINT J...| "20"| "17"|
|"RIVERSIDE MEDICA...| "39"| "20"|
|"RIVERSIDE MEDICA...| "39"| "20"|
|"RIVERSIDE MEDICA...| "39"| "20"|
|"SOUTH GEORGIA ME...| "3 out of 10"| "24"|
|"TAMPA GENERAL HO...| "23"| "16"|
+--------------------+-----------------+------------------------+
尝试这样做会给我一个空值表:
>>> results2 = results.select( results["Hospital Name"], results["HCAHPS Base Score"].cast(pe()).alias("HCAHPS Base Score"), results["HCAHPS Consistency Score"].cast(IntegerType()).aHPS Consistency Score") )
>>> results2.show()
+--------------------+-----------------+------------------------+
| Hospital Name|HCAHPS Base Score|HCAHPS Consistency Score|
+--------------------+-----------------+------------------------+
|"ADIRONDACK MEDIC...| null| null|
|"BAYLOR MEDICAL C...| null| null|
|"GOOD SHEPHERD ME...| null| null|
|"GOOD SHEPHERD ME...| null| null|
|"MASONIC HOME AND...| null| null|
|"ST HELENA HOSPITAL"| null| null|
| "TOURO INFIRMARY"| null| null|
|"WAHIAWA GENERAL ...| null| null|
|"ANNA JAQUES HOSP...| null| null|
| "CMC-BLUE RIDGE"| null| null|
|"EVANSTON REGIONA...| null| null|
|"OKLAHOMA SPINE H...| null| null|
|"PICKENS COUNTY M...| null| null|
|"PORTNEUF MEDICAL...| null| null|
|"PRESENCE SAINT J...| null| null|
|"RIVERSIDE MEDICA...| null| null|
|"RIVERSIDE MEDICA...| null| null|
|"RIVERSIDE MEDICA...| null| null|
|"SOUTH GEORGIA ME...| null| null|
|"TAMPA GENERAL HO...| null| null|
+--------------------+-----------------+------------------------+
only showing top 20 rows
是否无法在 pyspark 中将字符串列转换为整数?
最佳答案
首先您最好去掉双引号,然后您应该能够转换为 IntegerType。您可以使用下面的 udf 来完成它。
>>> def stripDQ(string):
... return string.replace('"', "")
...
>>> from pyspark.sql.functions import udf
>>> from pyspark.sql.types import StringType, IntegerType
>>> udf_stripDQ = udf(stripDQ, StringType())
我们将使用它..
您的实际 DataFrame:
>>> results.show()
+------------------+-----------------+------------------------+
| Hospital Name|HCAHPS Base Score|HCAHPS Consistency Score|
+------------------+-----------------+------------------------+
|"ADIRONDACK MEDIC"| "43"| "20"|
|"BAYLOR MEDICAL C"| "32"| "20"|
|"GOOD SHEPHERD ME"| "25"| "20"|
|"GOOD SHEPHERD ME"| "25"| "20"|
|"MASONIC HOME AND"| "Not Available"| "Not Available"|
+------------------+-----------------+------------------------+
现在,我们将使用我们的 udf 从两列中去除双引号。
>>> results1 = results.withColumn("HCAHPS Base Score", udf_stripDQ(results["HCAHPS Base Score"]) ).withColumn("HCAHPS Consistency Score", udf_stripDQ(results["HCAHPS Consistency Score"]) )
>>> results1.show()
+------------------+-----------------+------------------------+
| Hospital Name|HCAHPS Base Score|HCAHPS Consistency Score|
+------------------+-----------------+------------------------+
|"ADIRONDACK MEDIC"| 43| 20|
|"BAYLOR MEDICAL C"| 32| 20|
|"GOOD SHEPHERD ME"| 25| 20|
|"GOOD SHEPHERD ME"| 25| 20|
|"MASONIC HOME AND"| Not Available| Not Available|
+------------------+-----------------+------------------------+
现在转换为整数:
>>> results2 = results1.select( results1["Hospital Name"], results1["HCAHPS Base Score"].cast(IntegerType()).alias("HCAHPS Base Score"), results1["HCAHPS Consistency Score"].cast(IntegerType()).alias("HPS Consistency Score") )
>>> results2.show()
+------------------+-----------------+---------------------+
| Hospital Name|HCAHPS Base Score|HPS Consistency Score|
+------------------+-----------------+---------------------+
|"ADIRONDACK MEDIC"| 43| 20|
|"BAYLOR MEDICAL C"| 32| 20|
|"GOOD SHEPHERD ME"| 25| 20|
|"GOOD SHEPHERD ME"| 25| 20|
|"MASONIC HOME AND"| null| null|
+------------------+-----------------+---------------------+
关于apache-spark - 将字符串转换为 int null 问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/42709279/
我正在尝试将一个字符串逐个字符地复制到另一个字符串中。目的不是复制整个字符串,而是复制其中的一部分(我稍后会为此做一些条件......) 但我不知道如何使用迭代器。 你能帮帮我吗? std::stri
我想将 void 指针转换为结构引用。 结构的最小示例: #include "Interface.h" class Foo { public: Foo() : mAddress((uint
这有点烦人:我有一个 div,它从窗口的左上角开始过渡,即使它位于文档的其他任何位置。我试过 usign -webkit-transform-origin 但没有成功,也许我用错了。有人可以帮助我吗?
假设,如果将 CSS3 转换/转换/动画分配给 DOM 元素,我是否可以检测到该过程的状态? 我想这样做的原因是因为我正在寻找类似过渡链的东西,例如,在前一个过渡之后运行一个过渡。 最佳答案 我在 h
最近我遇到了“不稳定”屏幕,这很可能是由 CSS 转换引起的。事实上,它只发生在 Chrome 浏览器 上(可能还有 Safari,因为一些人也报告了它)。知道如何让它看起来光滑吗?此外,您可能会注意
我正在开发一个简单的 slider ,它使用 CSS 过渡来为幻灯片设置动画。我用一些基本样式和一些 javascript 创建了一支笔 here .注意:由于 Codepen 使用 Prefixfr
我正在使用以下代码返回 IList: public IList FindCodesByCountry(string country) { var query =
如何设计像这样的操作: 计算 转化 翻译 例如:从“EUR”转换为“CNY”金额“100”。 这是 /convert?from=EUR&to=CNY&amount=100 RESTful 吗? 最佳答
我使用 jquery 组合了一个图像滚动器,如下所示 function rotateImages(whichHolder, start) { var images = $('#' +which
如何使用 CSS (-moz-transform) 更改一个如下所示的 div: 最佳答案 你可以看看Mozilla Developer Center .甚至还有例子。 但是,在我看来,您的具体示例不
我需要帮助我正在尝试在选中和未选中的汉堡菜单上实现动画。我能够为菜单设置动画,但我不知道如何在转换为 0 时为左菜单动画设置动画 &__menu { transform: translateX(
我正在为字典格式之间的转换而苦苦挣扎:我正在尝试将下面的项目数组转换为下面的结果数组。本质上是通过在项目第一个元素中查找重复项,然后仅在第一个参数不同时才将文件添加到结果集中。 var items:[
如果我有两个定义相同的结构,那么在它们之间进行转换的最佳方式是什么? struct A { int i; float f; }; struct B { int i; float f; }; void
我编写了一个 javascript 代码,可以将视口(viewport)从一个链接滑动到另一个链接。基本上一切正常,你怎么能在那里看到http://jsfiddle.net/DruwJ/8/ 我现在的
我需要将文件上传到 meteor ,对其进行一些图像处理(必要时进行图像转换,从图像生成缩略图),然后将其存储在外部图像存储服务器(s3)中。这应该尽可能快。 您对 nodejs 图像处理库有什么建议
刚开始接触KDB+,有一些问题很难从Q for Mortals中得到。 说,这里 http://code.kx.com/wiki/JB:QforMortals2/casting_and_enumera
我在这里的一个项目中使用 JSF 1.2 和 IceFaces 1.8。 我有一个页面,它基本上是一大堆浮点数字段的大编辑网格。这是通过 inputText 实现的页面上的字段指向具有原始值的值对象
ScnMatrix4 是一个 4x4 矩阵。我的问题是什么矩阵行对应于位置(ScnVector3),旋转(ScnVector4),比例(ScnVector3)。第 4 行是空的吗? 编辑: 我玩弄了
恐怕我是 Scala 新手: 我正在尝试根据一些简单的逻辑将 Map 转换为新 Map: val postVals = Map("test" -> "testing1", "test2" -> "te
输入: This is sample 1 This is sample 2 输出: ~COLOR~[Green]This is sample 1~COLOR~[Red]This is sam
我是一名优秀的程序员,十分优秀!