如何根据其他变量估算缺失值

Question

我有一个 dataframe 如下所示：

df = pd.DataFrame({'one' : pd.Series(['a', 'b', 'c', 'd','aa','bb',np.nan,'b','c',np.nan, np.nan] ), 
  'two' : pd.Series([10, 20, 30, 40,50,60,10,20,30,40,50])} )

其中第一列是变量，第二列是值。 变量值是恒定的，永远不会改变。

例如'a' 的值为 10 ，每当出现 'a' 时，对应的值为 10

这里第一列中缺少一些值，例如：NaN 10 是 a，NaN 40 是明智的 dataframe 包含 200 个变量。

值不是连续变量，它们是离散且不可排序的

在这种情况下，我们如何估算缺失值。 预期的 output 应该是：

请帮助我。

问候，文卡特。

Answer 1

我认为总的来说，分组和填充会更好。 我们使用DataFrame.groupby ：

df.groupby('two').apply(lambda x: x.ffill().bfill())

---

它可以在不使用 groupby 的情况下完成，但您必须按两列排序：

df.sort_values(['two','one']).ffill().sort_index()

---

下面我向您展示另一个答案中提出的方法可能会失败：

这是一个例子：

df=pd.DataFrame({'one':['a',np.nan,'c','d',np.nan,'c','b','b',np.nan,'a'],'two':[10,20,30,40,10,30,20,20,30,10]})
print(df)

   one  two
0    a   10
1  NaN   20
2    c   30
3    d   40
4  NaN   10
5    c   30
6    b   20
7    b   20
8  NaN   30
9    a   10

---

df.sort_values(['two']).fillna(method='ffill').sort_index()


  one  two
0   a   10
1   a   20
2   c   30
3   d   40
4   a   10
5   c   30
6   b   20
7   b   20
8   c   30
9   a   10

如您所见，另一个答案中的建议方法在此处失败（请参见第 1 行）。 发生这种情况是因为某些 NaN 值可能是列“二”的特定值的第一个值，并用上一组的值填充。

如果我们先分组，则不会发生这种情况：

df.groupby('two').apply(lambda x: x.ffill().bfill())

  one  two
0   a   10
1   b   20
2   c   30
3   d   40
4   a   10
5   c   30
6   b   20
7   b   20
8   c   30
9   a   10

---

正如我所说，我们可以使用DataFrame.sort_values但我们需要对两列进行排序。 我推荐你这个方法。

df.sort_values(['two','one']).ffill().sort_index()

  one  two
0   a   10
1   b   20
2   c   30
3   d   40
4   a   10
5   c   30
6   b   20
7   b   20
8   c   30
9   a   10

Answer 2

这里是：

df.ffill(inplace=True)

output：

   one  two
0    a   10
1    b   20
2    c   30
3    d   40
4   aa   50
5   bb   60
6    a   10
7    b   20
8    c   30
9    d   40
10  aa   50

Answer 3

尝试这个：

df = df.sort_values(['two']).fillna(method='ffill').sort_index()

哪个会给你

   one  two
0    a   10
1    b   20
2    c   30
3    d   40
4   aa   50
5   bb   60
6    a   10
7    b   20
8    c   30
9    d   40
10  aa   50