Impute missing values using group-level summary statistics from a different dataframe(使用来自不同数据帧的组级汇总统计信息来计算缺失值)-6ren

Impute missing values using group-level summary statistics from a different dataframe(使用来自不同数据帧的组级汇总统计信息来计算缺失值)

转载作者：bug小助手更新时间：2023-10-28 11:51:44

26

4

I want to impute missing values using the grouped summary statistics based on a different dataframe. For instance, I would like to impute missing values in numvar_original in df1 to be like numvar_ideal where the missing values are based on group-level means from df2:

我想使用基于不同数据帧的分组汇总统计信息来计算缺失值。例如，我想将df1中的numvar_Origin中的缺失值归结为与Numvar_Ideas类似，其中缺失值基于df2中的组级别平均值：

df1
catvar numvar_original numvar_ideal 
1      10              10
1      NaN             5.5
2      30              30
2      NaN             6.5


df2
catvar numvar_original
1      5
1      6
2      6
2      7

# I tried the following:
df1['numvar'].fillna(df2.groupby('catvar')['numvar'].transform('mean'), inplace=True) 
# The missing values weren't replaced 

df1['numvar'].fillna(df1.groupby('catvar')['numvar'].transform('mean'), inplace=True)  
# I checked that this works in filling up the missing values but I have to use group-level mean values from df1

Is there a way to do this without resorting to a combination of apply or map with a dictionary (since I've read that apply/map can be slower with larger datasets)?

有没有一种方法可以做到这一点，而不必求助于apply或map与字典的组合（因为我已经读到apply/map在较大的数据集上会更慢）？

更多回答

Can you please edit your question and put there sample input and example output? (in text form)

你可以编辑你的问题，把样本输入和样本输出放在一起吗？(文本形式)

I've edited to include the sample input and intended output

我已经进行了编辑，以包括样例输入和预期输出

优秀答案推荐

Try:

尝试：

means = df2.groupby("catvar")["numvar_original"].mean().to_dict()

df1 = df1.groupby("catvar", group_keys=False).apply(
    lambda x: x.fillna(means[x["catvar"].iloc[0]])
)
print(df1)

Prints:

打印：

   catvar  numvar_original  numvar_ideal
0       1             10.0          10.0
1       1              5.5           5.5
2       2             30.0          30.0
3       2              6.5           6.5

OR: Using .merge:

或者：使用.merge：

means = df2.groupby("catvar")["numvar_original"].mean()

df1["numvar_original"] = df1["numvar_original"].fillna(
    df1.merge(means, on="catvar")["numvar_original_y"]
)
print(df1)

Prints:

打印：

   catvar  numvar_original  numvar_ideal
0       1             10.0          10.0
1       1              5.5           5.5
2       2             30.0          30.0
3       2              6.5           6.5

更多回答

Thanks! Both work well with the sample dataset. However, for the first approach, how can I make it more targeted (assuming there are other variables in df1)? Currently, it seems to replace missing values in all other columns too.

谢谢!两者都可以很好地与示例数据集配合使用。然而，对于第一种方法，我如何使其更有针对性(假设df1中有其他变量)？目前，它似乎也在替换所有其他列中缺失的值。

@MarshaT Can you please edit your question and put there sample input/example output with new dataset?

@MarshaT能否请您编辑您的问题，并使用新数据集放置示例输入/示例输出？

26

4

0

文章推荐： php - Laravel 5 - 重定向到 HTTPS

文章推荐： java - 如何安排任务以定期间隔运行？

文章推荐： php - 如何检查 php 以什么用户身份运行？

javascript - 使用 WebScriptEndpoint 使用 javascript 使用 WCF 服务
我在网上搜索但没有找到任何合适的文章解释如何使用 javascript 使用 WCF 服务，尤其是 WebScriptEndpoint。任何人都可以对此给出任何指导吗？谢谢最佳答案这是一篇关于
c - 没有结果!!使用 fork() 使用 dup2 使用 2 个管道运行 execlp()
我正在编写一个将运行 Linux 命令的 C 程序，例如: cat/etc/passwd | grep 列表 |剪切-c 1-5 我没有任何结果 *这里 parent 等待第一个 child (chi
python - 处理文件上传，使用 Pillow 调整大小，使用 SQLAlchemy 存储，使用 Flask 提供文件
所以我正在尝试处理文件上传，然后将该文件作为二进制文件存储到数据库中。在我存储它之后，我尝试在给定的 URL 上提供文件。我似乎找不到适合这里的方法。我需要使用数据库，因为我使用 Google 应用引
excel - 使用 IF 使用 VBA 在单元格中添加公式的问题
我正在尝试制作一个宏，将下面的公式添加到单元格中，然后将其拖到整个列中并在 H 列中复制相同的公式我想在 F 和 H 列中输入公式的数据 Range("F1").formula = "=IF(ISE
使用 OperatorPrecedenceParser 使用 FParsec 解析函数应用程序？
问题类似于this one ，但我想使用 OperatorPrecedenceParser 解析带有函数应用程序的表达式在 FParsec . 这是我的 AST: type Expression =
sql - 使用 sequelize 使用 where 查询编码计数
我想通过使用 sequelize 和 node.js 将这个查询更改为代码取决于在哪里 select COUNT(gender) as genderCount from customers where
bash - 使用 “let”分配Bash失败，使用 “/”
我正在使用GNU bash，版本5.0.3(1)-发行版(x86_64-pc-linux-gnu)，我想知道为什么简单的赋值语句会出现语法错误: #/bin/bash var1=/tmp
javascript - 使用 JavaScript 使用 FOR OF 数组循环时出现错误？
这里，为什么我的代码在 IE 中不起作用。我的代码适用于所有浏览器。没有问题。但是当我在 IE 上运行我的项目时，它发现错误。而且我的 jquery 类和 insertadjacentHTMl 也不
javascript - 使用 javascript 使用 for 属性更改表单标签内容
我正在尝试更改标签的innerHTML。我无权访问该表单，因此无法编辑 HTML。标签具有的唯一标识符是“for”属性。这是输入和标签的结构:
javascript - 使用 jquery 使用 .on() 将事件附加到页面上的动态插入按钮
我有一个页面，我可以在其中返回用户帖子，可以使用一些 jquery 代码对这些帖子进行即时评论，在发布新评论后，我在帖子下插入新评论以及删除按钮。问题是 Delete 按钮在新插入的元素上不起作用，
使用 awk 使用 sha1sum 进行散列
我有一个大约有 20 列的“管道分隔”文件。我只想使用 sha1sum 散列第一列，它是一个数字，如帐号，并按原样返回其余列。使用 awk 或 sed 执行此操作的最佳方法是什么？ Accounti
mysql - 使用 insert into 使用 mysql
我需要将以下内容插入到我的表中...我的用户表有五列 id、用户名、密码、名称、条目。 (我还没有提交任何东西到条目中，我稍后会使用 php 来做)但由于某种原因我不断收到这个错误:#1054 - U
jquery - 将输入字段值修剪为仅字母数字字符/使用 .使用 jQuery
所以我试图有一个输入字段，我可以在其中输入任何字符，但然后将输入的值小写，删除任何非字母数字字符，留下“。”而不是空格。例如，如果我输入: 地球的 70% 是水，-!*#$^^ & 30% 土地输
javascript - 使用 .innerHTML 使用 DOM
我正在尝试做一些我认为非常简单的事情，但出于某种原因我没有得到想要的结果？我是 javascript 的新手，但对 java 有经验，所以我相信我没有使用某种正确的规则。这是一个获取输入值、检查选择
php - 使用 angularjs 使用 where 子句从数据库获取数据
我想使用 angularjs 从 mysql 数据库加载数据。这就是应用程序的工作原理；用户登录，他们的用户名存储在 cookie 中。该用户名显示在主页上我想获取这个值并通过 angularjs
ios - 使用 UITableViewCell 使用 AutoLayout
我正在使用 autoLayout，我想在 UITableViewCell 上放置一个 UIlabel，它应该始终位于单元格的右侧和右侧的中心。这就是我想要实现的目标所以在这里你可以看到我正在谈论的
mysql - 使用 ElasticSearch 使用 or 和运算符搜索多个字段
我需要与 MySql 等效的 elasticsearch 查询。我的 sql 查询: SELECT DISTINCT t.product_id AS id FROM tbl_sup_price t
ios - 使用 Swift 使用 JSON
我正在实现代码以使用 JSON。 func setup() { if let flickrURL = NSURL(string: "https://api.flickr.com/
javascript - 使用 JavaScript 使用 for 循环声明变量
我尝试使用for循环声明变量，然后测试cols和rols是否相同。如果是，它将运行递归函数。但是，我在 javascript 中执行 do 时遇到问题。有人可以帮忙吗？现在，在比较 col.1 和
jquery - 使用 :after 使用 jquery 更改样式
我举了一个我正在处理的问题的简短示例。 HTML代码: 1 2 3 CSS 代码: .BB a:hover{ color: #000; } .BB > li:after {

首页

博学

6Ren·AI

商城

Impute missing values using group-level summary statistics from a different dataframe(使用来自不同数据帧的组级汇总统计信息来计算缺失值)