Finden Sie einen ganzzahligen Index von Zeilen mit NaN im Pandas-Datenrahmen

94

Ich habe einen Pandas DataFrame wie diesen:

                    a         b
2011-01-01 00:00:00 1.883381  -0.416629
2011-01-01 01:00:00 0.149948  -1.782170
2011-01-01 02:00:00 -0.407604 0.314168
2011-01-01 03:00:00 1.452354  NaN
2011-01-01 04:00:00 -1.224869 -0.947457
2011-01-01 05:00:00 0.498326  0.070416
2011-01-01 06:00:00 0.401665  NaN
2011-01-01 07:00:00 -0.019766 0.533641
2011-01-01 08:00:00 -1.101303 -1.408561
2011-01-01 09:00:00 1.671795  -0.764629

Gibt es eine effiziente Möglichkeit, den "Integer" -Index von Zeilen mit NaNs zu ermitteln? In diesem Fall sollte die gewünschte Ausgabe sein [3, 6].

Jean-François Corbett
quelle
12
Wenn Sie nur die Zeilen mit nan auswählen möchten, können Sie dies tundf[np.isnan(df['b'])]
faul1
4
Nach @ lazy1 - anstatt numpy's zu verwenden isnan, können Sie auch verwendendf['b'].isnull()
jmetz

Antworten:

46

Für DataFrame df:

import numpy as np
index = df['b'].index[df['b'].apply(np.isnan)]

gibt Ihnen das zurück, in das Sie zurück MultiIndexindizieren können df, z. B.:

df['a'].ix[index[0]]
>>> 1.452354

Für den Integer-Index:

df_index = df.index.values.tolist()
[df_index.index(i) for i in index]
>>> [3, 6]
Diliop
quelle
1
So intuitiv wie ixKlänge, aus einigen Gründen klingt es so, als wäre es zugunsten voniloc
Kardamom
143

Hier ist eine einfachere Lösung:

inds = pd.isnull(df).any(1).nonzero()[0]

In [9]: df
Out[9]: 
          0         1
0  0.450319  0.062595
1 -0.673058  0.156073
2 -0.871179 -0.118575
3  0.594188       NaN
4 -1.017903 -0.484744
5  0.860375  0.239265
6 -0.640070       NaN
7 -0.535802  1.632932
8  0.876523 -0.153634
9 -0.686914  0.131185

In [10]: pd.isnull(df).any(1).nonzero()[0]
Out[10]: array([3, 6])
Wes McKinney
quelle
28
np.where(df['b'].notnull())[0]
danke, .nonzero()[0]ist besser als [i for i, k in enumerate(mask) if k].)
Winand
2
Sie könnten dies wahrscheinlich weiter vereinfachen:r, _ = np.where(df.isna())
CS95
2
hinzufügen .to_numpy(), um zuerst in numpy Array zu konvertieren -pd.isnull(df).any(1).to_numpy().nonzero()
7bStan
13

Einzeilige Lösung. Es funktioniert jedoch nur für eine Spalte.

df.loc[pandas.isna(df["b"]), :].index
Vasyl Vaskivskyi
quelle
Das habe ich gesucht. Ich habe es in eine Liste aufgenommen, indem ich es list(...)wie list(df.loc[pandas.isna(df["b"]), :].index)
Daniel Butler
9

Und für den Fall, dass Sie stattdessen die Koordinaten von 'nan' für alle Spalten ermitteln möchten (vorausgesetzt, es handelt sich um alle Zahlen), können Sie Folgendes tun:

df = pd.DataFrame([[0,1,3,4,np.nan,2],[3,5,6,np.nan,3,3]])

df
   0  1  2    3    4  5
0  0  1  3  4.0  NaN  2
1  3  5  6  NaN  3.0  3

np.where(np.asanyarray(np.isnan(df)))
(array([0, 1]), array([4, 3]))
Filippo Mazza
quelle
9

Ich weiß nicht, ob dies zu spät ist, aber Sie können np.where verwenden, um die Indizes von Nichtwerten als solche zu finden:

indices = list(np.where(df['b'].isna()[0]))
naturesenshi
quelle
4

Hier sind Tests für einige Methoden:

%timeit np.where(np.isnan(df['b']))[0]
%timeit pd.isnull(df['b']).nonzero()[0]
%timeit np.where(df['b'].isna())[0]
%timeit df.loc[pd.isna(df['b']), :].index

Und ihre entsprechenden Timings:

333 µs ± 9.95 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
280 µs ± 220 ns per loop (mean ± std. dev. of 7 runs, 1000 loops each)
313 µs ± 128 ns per loop (mean ± std. dev. of 7 runs, 1000 loops each)
6.84 ms ± 1.59 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)

Es scheint, dass pd.isnull(df['DRGWeight']).nonzero()[0]der Tag in Bezug auf das Timing gewinnt, aber dass jede der drei Top-Methoden eine vergleichbare Leistung aufweist.

Adam Erickson
quelle
3

Wenn Sie einen Datums- / Uhrzeitindex haben und die Werte haben möchten:

df.loc[pd.isnull(df).any(1), :].index.values
Amirkhm
quelle
2

Eine andere einfache Lösung ist list(np.where(df['b'].isnull())[0])

karthikeyan
quelle
1

Hier ist eine weitere einfachere Einstellung:

df = pd.DataFrame([[0,1,3,4,np.nan,2],[3,5,6,np.nan,3,3]])

inds = np.asarray(df.isnull()).nonzero()

(array([0, 1], dtype=int64), array([4, 3], dtype=int64))
Nonya Bienenwachs
quelle
1

Ich habe nach allen Zeilenindizes mit NaN-Werten gesucht.
Meine Arbeitslösung:

def get_nan_indexes(data_frame):
    indexes = []
    print(data_frame)
    for column in data_frame:
        index = data_frame[column].index[data_frame[column].apply(np.isnan)]
        if len(index):
            indexes.append(index[0])
    df_index = data_frame.index.values.tolist()
    return [df_index.index(i) for i in set(indexes)]
murthy10
quelle
0

Der Datenrahmen soll df heißen und die interessierende Spalte (dh die Spalte, in der wir versuchen, Nullen zu finden ) ist 'b' . Das folgende Snippet gibt dann den gewünschten Index von Null im Datenrahmen an:

   for i in range(df.shape[0]):
       if df['b'].isnull().iloc[i]:
           print(i)
Stein Austin
quelle