- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我有一个包含索引和其他几个列的数据框。索引中的值不是唯一的(实际上它们重复很多次。每个索引可以重复约 10-20 次)。基本上想象一下这样的事情:
import random
random.seed(4)
arr = [[random.randint(1, 4)] + [random.random() for _ in xrange(3)] for i in xrange(5)]
df_ = pd.DataFrame(arr, columns = ['id', 'col1', 'col2', 'col3']).set_index('id')
现在我需要根据 id 计算一些值。这些值是:
为了简单起见,我们假设我只需要 [-inf, 0.25], [0.25, 0.75], [0.75, inf]
范围内的值,并且我将仅使用 col1
我目前所做的是:
创建了一个函数,它接受一个数据帧并返回这 3 个数字。
def f(df):
v1 = len(df[df['col1'] <= 0.25])
v2 = len(df[(df['col1'] >= 0.25) & (df['col1'] <= 0.75)])
v3 = len(df[df['col1'] >= 0.75])
return v1, v2, v3
现在我正在迭代索引中的所有值,提取与该索引相关的数据并将此函数应用于它。这样我就可以用我需要的统计数据创建新的数据框。
data = []
for id in set(df_.index.values):
v1, v2, v3 = f(df_.loc[id])
data.append((id, v1, v2, v3))
res_ = pd.DataFrame(data, columns=['id', 'less_25', '25_75', 'more_75'])
<小时/>
现在一切正常(我相信是正确的),但速度非常慢。我需要计算大约 1M 行 df 的数据,其中有大约 50k 个唯一 id。我的方法很可能需要一天的时间。
相信有了聪明的groupby或者可能是其他可以更快实现的东西。
最佳答案
让我们首先在整个 df_
上使用 pd.cut
来开始。
cat = pd.cut(df_.values.flatten(), [-np.inf, .25, .75, np.inf])
cat_arr = cat.get_values().reshape(df_.shape)
cat_df = pd.DataFrame(cat_arr, df_.index, df_.columns)
看看
pd.concat([df_, cat_df], axis=1, keys=['df_', 'cat'])
获取每个id
的猫
数量
cat_count = cat_df.stack().groupby(level=[0, 1]) \
.value_counts() \
.unstack().fillna(0)
cat_count
获取每个id
的cat
频率
cat_count = cat_df.stack().groupby(level=[0, 1])\
.value_counts(normalize=True) \
.unstack().fillna(0)
cat_count
关于python - 将操作数据帧的函数应用到 groupby,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/39071248/
给定输入: [1, 2, 3, 4, 5, 6, 7, 8, 9, 10] 将数字按奇数或偶数分组,然后按小于或大于 5 分组。 预期输出: [[1, 3, 5], [2, 4], [6, 8, 10
编辑: @coldspeed、@wen-ben、@ALollz 指出了我在字符串 np.nan 中犯的新手错误。答案很好,所以我不删除这个问题来保留那些答案。 原文: 我读过这个问题/答案 What'
我试图概括我提出的问题 here . mlb 数据框看起来像 Player Position Salary Year 0 Mike Wit
我认为我不需要共享整个数据框,但基本上,这是有问题的代码行(当然,已经导入了 pandas) divstack = df[df['Competitor']=='Emma Slabach'].group
我面临下一个问题:我有组(按 ID),对于所有这些组,我需要应用以下代码:如果组内位置之间的距离在 3 米以内,则需要将它们添加在一起,因此将创建一个新组(代码如何创建我在下面显示的组)。现在,我想要
我有以下数据: ,dateTime,magnitude,occurrence,dateTime_s 1,2017-11-20 08:00:09.052260,12861,1,2017-11-20 08
我按感兴趣的列对 df 进行分组: grouped = df.groupby('columnA') 现在我只想保留至少有 5 名成员的组: grouped.filter(lambda x: len(x
数据是一个时间序列,许多成员 ID 与许多类别相关联: data_df = pd.DataFrame({'Date': ['2018-09-14 00:00:22',
选择 u.UM_TOKEN_NO 、u.UM_FULLNAME、u.SECTOR、u.department_name、t.TS_PROJECT_CODE、sum(t.TS_TOTAL_HRS) 来自
我有这两个表: +---------------+-------------+---------------------+----------+---------+ | items_ordered |
我正在使用 groupby 和 sum 快速汇总两个数据集 一个包含: sequence shares 1 100 2 200 3 50 1 2
这个问题在这里已经有了答案: list around groupby results in empty groups (3 个答案) itertools groupby object not out
我有一组行,我想按标识符的值进行分组 - 存在于每一行中 - 然后对将作为结果的组进行进一步的隔离处理。 我的数据框是这样的: In [50]: df Out[50]: groupkey b
假设您要在全局范围内销售产品,并且希望在某个主要城市的某个地方设立销售办事处。您的决定将完全基于销售数字。 这将是您的(简化的)销售数据: df={ 'Product':'Chair', 'Count
我有一个将数据分组两次的查询: var query = (from a in Context.SetA() from b in Context.SetB().Where(x => x.aId == a
我有一个这种格式的数据框: value identifier 2007-01-01 0.087085 55 2007-01-01 0.703249
这个问题在这里已经有了答案: python groupby behaviour? (3 个答案) 关闭 4 年前。 我有一个这样的列表 [u'201003', u'200403', u'200803
在 Python 中,我可以使用 itertools.groupby 将具有相同键的连续元素分组。 : >>> items = [(1, 2), (1, 5), (1, 3), (2, 9), (3,
无法翻译以下 GroupBy 查询并将引发错误:不支持客户端 GroupBy IEnumerable ids = new List { 1, 2, 3 }; var q = db.Comments.W
考虑一个 Spark DataFrame,其中只有很少的列。目标是对其执行 groupBy 操作,而不将其转换为 Pandas DataFrame。等效的 Pandas groupBy 代码如下所示:
我是一名优秀的程序员,十分优秀!