- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
CFSDN坚持开源创造价值,我们致力于搭建一个资源共享平台,让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章使用pandas或numpy处理数据中的空值(np.isnan()/pd.isnull())由作者收集整理,如果你对这篇文章有兴趣,记得点赞哟.
最近在做数据处理的时候,遇到个让我欲仙欲死的问题,那就是数据中的空值该如何获取.
我的目的本来是获取数据中的所有非零且非空值,然后再计算获得到的所有数据计算均值,再用均值把0和空值填上。这个操作让我意识到了i is None/np.isnan(i)/i.isnull()之间的差别,再此做简单介绍:
先明确一个问题,即空值的产生只有np.nan()一种方法.
1
2
3
4
5
6
7
8
9
10
11
12
13
|
# np.nan()的一些奇妙性质:
np.nan
=
=
np.nan
>>>
False
np.isnan(np.nan)
>>>
True
np.nan
is
None
>>>
False
type
(np.nan)
>>>
float
|
np.nan不是一个“空”对象,用 i is None判断是False; 。
对某个值是否为空值进行判断,只能用np.isnan(i)函数,万万不可用 i == np.nan()来做,否则你会死的很惨的,因为空值并不能用判断相等的“==”正确识别(上例前两条); 。
np.nan非空对象,其类型为基本数据类型float(是不是很神奇,我也不知道为什么要这样设计) 。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
|
# 首先创建一个DataFrame:
bb
=
pd.DataFrame({
'a'
:[
0
,
1
,
2
,np.nan]})
bb
>>> a
0
0.0
1
1.0
2
2.0
3
NaN
# 先测试一下np.isnan()
np.isnan(bb)
>>> a
0
False
1
False
2
False
3
True
# 值得一提的是,如果想获悉整个DataFrame有无空值,可以在此基础上这样做:
np.isnan(bb).
all
()
>>> a
False
dtype:
bool
# 这行是指返回值的dtype
# 再测试一下isnull()
pd.isnull(bb)
>>> a
0
False
1
False
2
False
3
True
|
由上可见,其实np.isnan()和pd.isnull()都可以对不论是DataFrame、Python list还是仅仅一个数值进行空值检测。但一般在实际应用中,np.isnan()多用于单个值的检验,pd.isnull()用于对一个DataFrame或Series(整体)的检验.
此外,根据pandas官方文档和源代码,pandas提供的另一个函数pd.isna()与pd.isnull()完全一样.
上面提到的any()/all()函数,请见pandas文档:
https://pandas.pydata.org/pandas-docs/stable/generated/pandas.DataFrame.all.html#pandas.DataFrame.all 。
https://pandas.pydata.org/pandas-docs/stable/generated/pandas.DataFrame.any.html#pandas.DataFrame.any 。
其他与空值检测或删除相关的函数还有:notna()、fillna()、dropna()等等。实战中应灵活使用.
补充:numpy中的nan(判断一个元素等于nan, 及nan安全函数 ) 。
1
2
3
4
5
6
7
|
import
numpy as np
np.nan
nan
np.NaN
nan
np.NAN
nan
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
x
=
np.array([
1
,
1
,
8
, np.nan,
10
])
np.nan
in
x
False
np.isin(np.nan, x)
array(
False
)
1
in
x
True
np.isin(
1
, x)
array(
True
)
np.isnan(x)
array([
False
,
False
,
False
,
True
,
False
])
x[
-
2
]
=
=
np.nan, np.isnan(x[
-
2
])
(
False
,
True
)
|
在np中nan需要用isnan这个函数来识别,还要注意:
1
2
|
x
array([
1.
,
1.
,
8.
, nan,
10.
])
|
x 中所有的元素都变成了浮点型,这是因为nan是浮点型的.
1
2
3
4
|
np.mean(x)
nan
np.nanmean(x)
5.0
|
此外max, min, median等都是默认非nan安全的,需要加上nan来标记nan安全.
ps:pandas中是默认nan安全的.
补充:Python 处理DataFrame数据 pd.isnull() np.isnan()的方式 。
数据处理时,经常会遇到处理数据中的空值,涉及几个常用函数,pd.isnull(),pd.notnull(),np.isnan(),pd.notna(),pd.isna(),pd.fillna()、pd.dropna()等等. 。
本文关注pd.isnull(),pd.notnull(),np.isnan(),pd.notna(),pd.isna().
总结:
由下可知,np.isnan()和pd.isnull()都可以对不论是DataFrame、Python list还是仅仅一个数值进行空值检测。但一般在实际应用中,np.isnan()多用于单个值的检验,pd.isnull()用于对一个DataFrame或Series(整体)的检验.
pd.isnull()可以对不论是DataFrame、Python list还是仅仅一个数值进行空值检测。但一般在实际应用中,pd.isnull()用于对一个DataFrame或Series(整体)的检验.
此外,根据pandas官方文档和源代码,pandas提供的另一个函数pd.isna()与pd.isnull()完全一样.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
|
# 首先创建一个DataFrame:
df
=
pd.DataFrame({
'a'
:[
0
,
1
,
2
,np.nan]})
df
>>> a
0
0.0
1
1.0
2
2.0
3
NaN
# 测试isnull()
pd.isnull(df)
>>> a
0
False
1
False
2
False
3
True
# 测试isna()
pd.isna(df)
>>> a
0
False
1
False
2
False
3
True
# 测试notnull()
pd.notnull(df)
>>> a
0
True
1
True
2
True
3
False
# 测试notna()
pd.notna(df)
>>> a
0
True
1
True
2
True
3
False
|
判断是否为np.nan().
np.nan不是一个“空”对象,对某个值是否为空值进行判断,只能用np.isnan(i)函数.
np.nan非空对象,其类型为基本数据类型float.
np.nan()可以对不论是DataFrame、Python list还是仅仅一个数值进行空值检测。但一般在实际应用中,np.nan()多用于单个值的检验.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
np.nan
=
=
np.nan
>>>
False
np.isnan(np.nan)
>>>
True
type
(np.nan)
>>>
float
np.nan
is
None
>>>
False
np.isnan(df)
>>> a
0
False
1
False
2
False
3
True
|
以上为个人经验,希望能给大家一个参考,也希望大家多多支持我.
原文链接:https://blog.csdn.net/weixin_41712499/article/details/82719987 。
最后此篇关于使用pandas或numpy处理数据中的空值(np.isnan()/pd.isnull())的文章就讲到这里了,如果你想了解更多关于使用pandas或numpy处理数据中的空值(np.isnan()/pd.isnull())的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
pandas.crosstab 和 Pandas 数据透视表似乎都提供了完全相同的功能。有什么不同吗? 最佳答案 pivot_table没有 normalize争论,不幸的是。 在 crosstab
我能找到的最接近的答案似乎太复杂:How I can create an interval column in pandas? 如果我有一个如下所示的 pandas 数据框: +-------+ |
这是我用来将某一行的一列值移动到同一行的另一列的当前代码: #Move 2014/15 column ValB to column ValA df.loc[(df.Survey_year == 201
我有一个以下格式的 Pandas 数据框: df = pd.DataFrame({'a' : [0,1,2,3,4,5,6], 'b' : [-0.5, 0.0, 1.0, 1.2, 1.4,
所以我有这两个数据框,我想得到一个新的数据框,它由两个数据框的行的克罗内克积组成。正确的做法是什么? 举个例子:数据框1 c1 c2 0 10 100 1 11 110 2 12
TL;DR:在 pandas 中,如何绘制条形图以使其 x 轴刻度标签看起来像折线图? 我制作了一个间隔均匀的时间序列(每天一个项目),并且可以像这样很好地绘制它: intensity[350:450
我有以下两个时间列,“Time1”和“Time2”。我必须计算 Pandas 中的“差异”列,即 (Time2-Time1): Time1 Time2
从这个 df 去的正确方法是什么: >>> df=pd.DataFrame({'a':['jeff','bob','jill'], 'b':['bob','jeff','mike']}) >>> df
我想按周从 Pandas 框架中的列中累积计算唯一值。例如,假设我有这样的数据: df = pd.DataFrame({'user_id':[1,1,1,2,2,2],'week':[1,1,2,1,
数据透视表的表示形式看起来不像我在寻找的东西,更具体地说,结果行的顺序。 我不知道如何以正确的方式进行更改。 df示例: test_df = pd.DataFrame({'name':['name_1
我有一个数据框,如下所示。 Category Actual Predicted 1 1 1 1 0
我有一个 df,如下所示。 df: ID open_date limit 1 2020-06-03 100 1 2020-06-23 500
我有一个 df ,其中包含与唯一值关联的各种字符串。对于这些唯一值,我想删除不等于单独列表的行,最后一行除外。 下面使用 Label 中的各种字符串值与 Item 相关联.所以对于每个唯一的 Item
考虑以下具有相同名称的列的数据框(显然,这确实发生了,目前我有一个像这样的数据集!:() >>> df = pd.DataFrame({"a":range(10,15),"b":range(5,10)
我在 Pandas 中有一个 DF,它看起来像: Letters Numbers A 1 A 3 A 2 A 1 B 1 B 2
如何减去两列之间的时间并将其转换为分钟 Date Time Ordered Time Delivered 0 1/11/19 9:25:00 am 10:58:00 am
我试图理解 pandas 中的下/上百分位数计算,但有点困惑。这是它的示例代码和输出。 test = pd.Series([7, 15, 36, 39, 40, 41]) test.describe(
我有一个多索引数据框,如下所示: TQ bought HT Detailed Instru
我需要从包含值“低”,“中”或“高”的数据框列创建直方图。当我尝试执行通常的df.column.hist()时,出现以下错误。 ex3.Severity.value_counts() Out[85]:
我试图根据另一列的长度对一列进行子串,但结果集是 NaN .我究竟做错了什么? import pandas as pd df = pd.DataFrame([['abcdefghi','xyz'],
我是一名优秀的程序员,十分优秀!