Wie lese ich eine XLSX-Datei mit der Pandas-Bibliothek in iPython?

101

Ich möchte eine XLSX-Datei mit der Pandas Library of Python lesen und die Daten in eine PostgreSQL-Tabelle portieren.

Bisher konnte ich nur Folgendes tun:

import pandas as pd
data = pd.ExcelFile("*File Name*")

Jetzt weiß ich, dass der Schritt erfolgreich ausgeführt wurde, aber ich möchte wissen, wie ich die gelesene Excel-Datei analysieren kann, damit ich verstehen kann, wie die Daten in Excel den Daten in den variablen Daten zugeordnet werden.
Ich habe gelernt, dass Daten ein Dataframe-Objekt sind, wenn ich mich nicht irre. Wie analysiere ich dieses Datenrahmenobjekt, um jede Zeile Zeile für Zeile zu extrahieren?

Sabareesh Kappagantu
quelle
8
df = pd.ExcelFile ('Dateiname'). parse ('Blatt 1'); siehe docs pandas.pydata.org/pandas-docs/dev/io.html#excel-files
Jeff

Antworten:

160

Normalerweise erstelle ich DataFramefür jedes Blatt ein Wörterbuch mit :

xl_file = pd.ExcelFile(file_name)

dfs = {sheet_name: xl_file.parse(sheet_name) 
          for sheet_name in xl_file.sheet_names}

Update: In Pandas Version 0.21.0+ Sie werden dieses Verhalten bekommen saubere , indem sheet_name=Nonean read_excel:

dfs = pd.read_excel(file_name, sheet_name=None)

In 0,20 und früher war dies sheetnameeher als sheet_name(dies wird jetzt zugunsten der oben genannten abgelehnt):

dfs = pd.read_excel(file_name, sheetname=None)
Andy Hayden
quelle
Danke Andy. Das hat funktioniert. Jetzt ist mein nächster Schritt von hier aus, dies in eine postgreSQL-Datenbank zu schreiben. Welche Bibliothek kann am besten verwendet werden? SQLAlchemy?
Sabareesh Kappagantu
Hmmm, wenn Sie MySQL sagten - ich würde die Antwort wissen , Postgres funktionieren möglicherweise ähnlich ... aber nicht zu 100%. (Wäre eine gute Frage.)
Andy Hayden
Ich habe verstanden, wie es geht. Ich habe Sqlalchemy benutzt. Sie hatten Recht, es ist ziemlich ähnlich wie MySQL. Es ging darum, eine Engine zu erstellen, die Metadaten zu sammeln und mit den Daten herumzuspielen. Nochmals vielen Dank Andy! :) Schätzen Sie die Hilfe.
Sabareesh Kappagantu
1
pandas.DataFrame.to_sqlkönnte hilfreich sein. Zum Lesen können Sie dann verwenden, dp.pywelche Pandas DataFrame-Objekte zurückgegeben werden.
Finn Årup Nielsen
Ich versuche, etwas Ähnliches zu erreichen, aber indem ich 2 xlsx-Excel-Dateien verwende, um einen Datenrahmen zu erstellen, frage ich mich, ob Sie einen Blick darauf werfen und mir dabei helfen können, wie ich vorgehen soll. Ich habe um Hilfe gebeten, indem ich eine weitere Frage gestapelt habe / Fragen / 16888888 /… @AndyHayden
Deepak M
25
from pandas import read_excel
# find your sheet name at the bottom left of your excel file and assign 
# it to my_sheet 
my_sheet = 'Sheet1' # change it to your sheet name
file_name = 'products_and_categories.xlsx' # change it to the name of your excel file
df = read_excel(file_name, sheet_name = my_sheet)
print(df.head()) # shows headers with top 5 rows
Hafizur Rahman
quelle
11

Die read_excelMethode von DataFrame ähnelt der read_csvMethode:

dfs = pd.read_excel(xlsx_file, sheetname="sheet1")


Help on function read_excel in module pandas.io.excel:

read_excel(io, sheetname=0, header=0, skiprows=None, skip_footer=0, index_col=None, names=None, parse_cols=None, parse_dates=False, date_parser=None, na_values=None, thousands=None, convert_float=True, has_index_names=None, converters=None, true_values=None, false_values=None, engine=None, squeeze=False, **kwds)
    Read an Excel table into a pandas DataFrame

    Parameters
    ----------
    io : string, path object (pathlib.Path or py._path.local.LocalPath),
        file-like object, pandas ExcelFile, or xlrd workbook.
        The string could be a URL. Valid URL schemes include http, ftp, s3,
        and file. For file URLs, a host is expected. For instance, a local
        file could be file://localhost/path/to/workbook.xlsx
    sheetname : string, int, mixed list of strings/ints, or None, default 0

        Strings are used for sheet names, Integers are used in zero-indexed
        sheet positions.

        Lists of strings/integers are used to request multiple sheets.

        Specify None to get all sheets.

        str|int -> DataFrame is returned.
        list|None -> Dict of DataFrames is returned, with keys representing
        sheets.

        Available Cases

        * Defaults to 0 -> 1st sheet as a DataFrame
        * 1 -> 2nd sheet as a DataFrame
        * "Sheet1" -> 1st sheet as a DataFrame
        * [0,1,"Sheet5"] -> 1st, 2nd & 5th sheet as a dictionary of DataFrames
        * None -> All sheets as a dictionary of DataFrames

    header : int, list of ints, default 0
        Row (0-indexed) to use for the column labels of the parsed
        DataFrame. If a list of integers is passed those row positions will
        be combined into a ``MultiIndex``
    skiprows : list-like
        Rows to skip at the beginning (0-indexed)
    skip_footer : int, default 0
        Rows at the end to skip (0-indexed)
    index_col : int, list of ints, default None
        Column (0-indexed) to use as the row labels of the DataFrame.
        Pass None if there is no such column.  If a list is passed,
        those columns will be combined into a ``MultiIndex``
    names : array-like, default None
        List of column names to use. If file contains no header row,
        then you should explicitly pass header=None
    converters : dict, default None
        Dict of functions for converting values in certain columns. Keys can
        either be integers or column labels, values are functions that take one
        input argument, the Excel cell content, and return the transformed
        content.
    true_values : list, default None
        Values to consider as True

        .. versionadded:: 0.19.0

    false_values : list, default None
        Values to consider as False

        .. versionadded:: 0.19.0

    parse_cols : int or list, default None
        * If None then parse all columns,
        * If int then indicates last column to be parsed
        * If list of ints then indicates list of column numbers to be parsed
        * If string then indicates comma separated list of column names and
          column ranges (e.g. "A:E" or "A,C,E:F")
    squeeze : boolean, default False
        If the parsed data only contains one column then return a Series
    na_values : scalar, str, list-like, or dict, default None
        Additional strings to recognize as NA/NaN. If dict passed, specific
        per-column NA values. By default the following values are interpreted
        as NaN: '', '#N/A', '#N/A N/A', '#NA', '-1.#IND', '-1.#QNAN', '-NaN', '-nan',
    '1.#IND', '1.#QNAN', 'N/A', 'NA', 'NULL', 'NaN', 'nan'.
    thousands : str, default None
        Thousands separator for parsing string columns to numeric.  Note that
        this parameter is only necessary for columns stored as TEXT in Excel,
        any numeric columns will automatically be parsed, regardless of display
        format.
    keep_default_na : bool, default True
        If na_values are specified and keep_default_na is False the default NaN
        values are overridden, otherwise they're appended to.
    verbose : boolean, default False
        Indicate number of NA values placed in non-numeric columns
    engine: string, default None
        If io is not a buffer or path, this must be set to identify io.
        Acceptable values are None or xlrd
    convert_float : boolean, default True
        convert integral floats to int (i.e., 1.0 --> 1). If False, all numeric
        data will be read in as floats: Excel stores all numbers as floats
        internally
    has_index_names : boolean, default None
        DEPRECATED: for version 0.17+ index names will be automatically
        inferred based on index_col.  To read Excel output from 0.16.2 and
        prior that had saved index names, use True.

    Returns
    -------
    parsed : DataFrame or Dict of DataFrames
        DataFrame from the passed in Excel file.  See notes in sheetname
        argument for more information on when a Dict of Dataframes is returned.
Flowera
quelle
6

Anstatt einen Blattnamen zu verwenden, verwende ich den Parameter index_col (index_col = 0 für), falls Sie die Excel-Datei nicht kennen oder nicht öffnen können, um Ubuntu einzuchecken (in meinem Fall Python 3.6.7, Ubuntu 18.04) das erste Blatt)

import pandas as pd
file_name = 'some_data_file.xlsx' 
df = pd.read_excel(file_name, index_col=0)
print(df.head()) # print the first 5 rows
Harry
quelle
1
Sie können sheet_name=0das Blatt auch anstelle von 0 verwenden oder benennen.
Plajerity
1
Richtig, es funktioniert. Es benötigt jedoch die Abhängigkeit xlrd. (pip3.7.4.exe installiere xlrd unter Windows)
Harry
5

Weisen Sie den Dateinamen der Tabelle zu file

Tabelle laden

Drucken Sie die Blattnamen

Laden Sie ein Blatt mit dem Namen df1 in einen DataFrame

file = 'example.xlsx'
xl = pd.ExcelFile(file)
print(xl.sheet_names)
df1 = xl.parse('Sheet1')
dänisch
quelle
2

Wenn Sie read_excel()eine Datei verwenden, die mit der Funktion geöffnet wurde open(), müssen Sie sie zur Öffnungsfunktion hinzufügen rb, um Codierungsfehler zu vermeiden

Patrick Mutuku
quelle