Verbinden (Zusammenführen) von Datenrahmen (innen, außen, links, rechts)

1233

Gegeben zwei Datenrahmen:

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))

df1
#  CustomerId Product
#           1 Toaster
#           2 Toaster
#           3 Toaster
#           4   Radio
#           5   Radio
#           6   Radio

df2
#  CustomerId   State
#           2 Alabama
#           4 Alabama
#           6    Ohio

Wie kann ich Datenbankstile, dh SQL-Stile, Joins erstellen ? Das heißt, wie bekomme ich:

  • Ein innerer Join von df1und df2:
    Gibt nur die Zeilen zurück, in denen die linke Tabelle übereinstimmende Schlüssel in der rechten Tabelle enthält.
  • Ein äußerer Join von df1und df2:
    Gibt alle Zeilen aus beiden Tabellen zurück, Join-Datensätze von links, die übereinstimmende Schlüssel in der rechten Tabelle haben.
  • Eine linke äußere Verknüpfung (oder einfach eine linke Verknüpfung) von df1und df2
    Gibt alle Zeilen aus der linken Tabelle sowie alle Zeilen mit übereinstimmenden Schlüsseln aus der rechten Tabelle zurück.
  • Ein rechter äußerer Join von df1und df2
    Gibt alle Zeilen aus der rechten Tabelle sowie alle Zeilen mit übereinstimmenden Schlüsseln aus der linken Tabelle zurück.

Extra Gutschrift:

Wie kann ich eine SQL-Style-Select-Anweisung ausführen?

Dan Goldstein
quelle
4
stat545-ubc.github.io/bit001_dplyr-cheatsheet.html ← meine Lieblingsantwort auf diese Frage
Isomorphismen
Die von RStudio erstellte und verwaltete Datentransformation mit dplyr-Spickzettel enthält auch schöne Infografiken zur Funktionsweise von Joins in dplyr rstudio.com/resources/cheatsheets
Arthur Yip
2
Wenn Sie hierher gekommen sind, um mehr über das Zusammenführen von Pandas- Datenrahmen zu erfahren , finden Sie diese Ressource hier .
CS95

Antworten:

1350

Mit der mergeFunktion und ihren optionalen Parametern:

Innerer Join: merge(df1, df2) funktioniert für diese Beispiele, da R die Frames automatisch mit allgemeinen Variablennamen verbindet, Sie jedoch höchstwahrscheinlich angeben möchten,merge(df1, df2, by = "CustomerId")um sicherzustellen, dass Sie nur mit den gewünschten Feldern übereinstimmen. Sie können dieParameterby.xundauch verwendenby.y, wenn die übereinstimmenden Variablen in den verschiedenen Datenrahmen unterschiedliche Namen haben.

Äußere Verbindung: merge(x = df1, y = df2, by = "CustomerId", all = TRUE)

Links außen: merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)

Rechts außen: merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)

Cross Join: merge(x = df1, y = df2, by = NULL)

Genau wie beim inneren Join möchten Sie wahrscheinlich "CustomerId" explizit an R als übereinstimmende Variable übergeben. Ich denke, es ist fast immer am besten, die Bezeichner, auf denen Sie zusammenführen möchten, explizit anzugeben. Es ist sicherer, wenn sich die eingegebenen Datenrahmen unerwartet ändern und später leichter zu lesen sind.

Sie können mehrere Spalten zusammenführen, indem Sie byeinen Vektor angeben, z by = c("CustomerId", "OrderId").

Wenn die zusammenzuführenden Spaltennamen nicht identisch sind, können Sie angeben, by.x = "CustomerId_in_df1", by.y = "CustomerId_in_df2"wo CustomerId_in_df1sich der Name der Spalte im ersten Datenrahmen und CustomerId_in_df2der Name der Spalte im zweiten Datenrahmen befindet. (Dies können auch Vektoren sein, wenn Sie mehrere Spalten zusammenführen müssen.)

Matt Parker
quelle
2
@MattParker Ich habe das sqldf-Paket für eine ganze Reihe komplexer Abfragen für Datenrahmen verwendet und brauchte es wirklich, um einen Self-Cross-Join durchzuführen (dh den Cross-Join von data.frame selbst). Ich frage mich, wie es aus Sicht der Leistung verglichen wird ... . ???
Nicholas Hamilton
9
@ADP Ich habe sqldf noch nie wirklich benutzt, daher bin ich mir über die Geschwindigkeit nicht sicher. Wenn die Leistung für Sie ein großes Problem darstellt, sollten Sie sich auch das data.tablePaket ansehen - das ist ein völlig neuer Satz von Join-Syntax, aber es ist radikal schneller als alles, worüber wir hier sprechen.
Matt Parker
5
Mit mehr Klarheit und Erklärung ..... mkmanu.wordpress.com/2016/04/08/…
Manoj Kumar
42
Eine kleine Ergänzung, die für mich hilfreich war - Wenn Sie mit mehr als einer Spalte zusammenführen möchten:merge(x=df1,y=df2, by.x=c("x_col1","x_col2"), by.y=c("y_col1","y_col2"))
Dileep Kumar Patchigolla
8
Dies funktioniert data.tablejetzt, gleiche Funktion nur schneller.
Marbel
222

Ich würde empfehlen, das sqldf-Paket von Gabor Grothendieck zu lesen , mit dem Sie diese Operationen in SQL ausdrücken können.

library(sqldf)

## inner join
df3 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              JOIN df2 USING(CustomerID)")

## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              LEFT JOIN df2 USING(CustomerID)")

Ich finde die SQL-Syntax einfacher und natürlicher als das R-Äquivalent (dies spiegelt jedoch möglicherweise nur meine RDBMS-Tendenz wider).

Siehe Gabor sqldf GitHub für weitere Informationen über beitritt.

Medriscoll
quelle
198

Es gibt den data.table- Ansatz für einen inneren Join, der sehr zeit- und speichereffizient ist (und für einige größere data.frames erforderlich ist):

library(data.table)

dt1 <- data.table(df1, key = "CustomerId") 
dt2 <- data.table(df2, key = "CustomerId")

joined.dt1.dt.2 <- dt1[dt2]

mergefunktioniert auch mit data.tables (da es generisch ist und aufruft merge.data.table)

merge(dt1, dt2)

data.table im Stackoverflow dokumentiert:
Ausführen einer Zusammenführungsoperation von data.table
Übersetzen von SQL- Verknüpfungen auf Fremdschlüsseln in die Syntax von R data.table
Effiziente Alternativen zum Zusammenführen für größere data.frames R
So führen Sie einen einfachen linken äußeren Join mit data.table durch in R?

Eine weitere Option ist die joinFunktion im Plyr- Paket

library(plyr)

join(df1, df2,
     type = "inner")

#   CustomerId Product   State
# 1          2 Toaster Alabama
# 2          4   Radio Alabama
# 3          6   Radio    Ohio

Optionen für type: inner, left, right, full.

Von ?join: Im Gegensatz dazu behält merge[ join] die Reihenfolge von x bei, unabhängig davon, welcher Verknüpfungstyp verwendet wird.

Etienne Low-Décarie
quelle
8
+1 für die Erwähnung plyr::join. Microbenchmarking zeigt an, dass es etwa dreimal schneller als merge.
Beasterfield
20
Ist data.tablejedoch viel schneller als beide. Es gibt auch große Unterstützung in SO, ich sehe nicht viele Paketschreiber, die hier so oft Fragen beantworten wie der data.tableVerfasser oder die Mitwirkenden.
Marbel
1
Wie lautet die data.tableSyntax zum Zusammenführen einer Liste von Datenrahmen ?
Aleksandr Blekh
5
Bitte beachten Sie: dt1 [dt2] ist eine rechte äußere Verknüpfung (keine "reine" innere Verknüpfung), sodass ALLE Zeilen von dt2 Teil des Ergebnisses sind, auch wenn in dt1 keine übereinstimmende Zeile vorhanden ist. Auswirkung: Ihr Ergebnis enthält möglicherweise unerwünschte Zeilen, wenn Sie Schlüsselwerte in dt2 haben, die nicht mit den Schlüsselwerten von dt1 übereinstimmen.
R Yoda
8
@RYoda können Sie nomatch = 0Lin diesem Fall einfach angeben .
David Arenburg
181

Sie können auch Joins mit Hadley Wickhams fantastischem dplyr- Paket durchführen.

library(dplyr)

#make sure that CustomerId cols are both type numeric
#they ARE not using the provided code in question and dplyr will complain
df1$CustomerId <- as.numeric(df1$CustomerId)
df2$CustomerId <- as.numeric(df2$CustomerId)

Mutierende Verknüpfungen: Fügen Sie df1 Spalten hinzu, indem Sie Übereinstimmungen in df2 verwenden

#inner
inner_join(df1, df2)

#left outer
left_join(df1, df2)

#right outer
right_join(df1, df2)

#alternate right outer
left_join(df2, df1)

#full join
full_join(df1, df2)

Verknüpfungen filtern: Zeilen in df1 herausfiltern, Spalten nicht ändern

semi_join(df1, df2) #keep only observations in df1 that match in df2.
anti_join(df1, df2) #drops all observations in df1 that match in df2.
Andrew Barr
quelle
16
Warum müssen Sie CustomerIdin numerische konvertieren ? Ich sehe in der Dokumentation (für beide plyrund dplyr) keine Erwähnung dieser Art von Einschränkung. Würde Ihr Code falsch funktionieren, wenn die Zusammenführungsspalte vom characterTyp wäre (besonders interessiert an plyr)? Vermisse ich etwas
Aleksandr Blekh
Könnte man semi_join (df1, df2, df3, df4) verwenden, um nur Beobachtungen in df1 zu behalten, die mit den restlichen Spalten übereinstimmen?
Ghose Bishwajit
@GhoseBishwajit Angenommen, Sie meinen den Rest der Datenrahmen anstelle von Spalten, könnten Sie rbind für df2, df3 und df4 verwenden, wenn sie dieselbe Struktur haben, z. B. semi_join (df1, rbind (df2, df3, df4))
abhy3
Ja, ich meinte Datenrahmen. Sie haben jedoch nicht die gleiche Struktur wie einige, die in bestimmten Zeilen fehlen. Für vier Datenrahmen liegen mir Daten zu vier verschiedenen Indikatoren (BIP, BSP, GINI, MMR) für verschiedene Länder vor. Ich möchte die Datenrahmen so verbinden, dass nur die Länder für alle vier Indikatoren vorhanden sind.
Ghose Bishwajit
86

Es gibt einige gute Beispiele dafür im R-Wiki . Ich werde hier ein paar stehlen:

Zusammenführungsmethode

Da Ihre Schlüssel den gleichen Namen haben, ist merge () der kurze Weg, um einen inneren Join durchzuführen:

merge(df1,df2)

Mit dem Schlüsselwort "all" kann ein vollständiger innerer Join (alle Datensätze aus beiden Tabellen) erstellt werden:

merge(df1,df2, all=TRUE)

eine linke äußere Verbindung von df1 und df2:

merge(df1,df2, all.x=TRUE)

eine rechte äußere Verbindung von df1 und df2:

merge(df1,df2, all.y=TRUE)

Sie können sie umdrehen, schlagen und abreiben, um die beiden anderen äußeren Verbindungen zu erhalten, nach denen Sie gefragt haben :)

Indexmethode

Ein linker äußerer Join mit df1 auf der linken Seite unter Verwendung einer tiefgestellten Methode wäre:

df1[,"State"]<-df2[df1[ ,"Product"], "State"]

Die andere Kombination von äußeren Verknüpfungen kann erstellt werden, indem das Beispiel für den Index der linken äußeren Verknüpfungen gemischt wird. (Ja, ich weiß, das ist das Äquivalent zu "Ich überlasse es dem Leser als Übung ...")

JD Long
quelle
4
Der Link "R Wiki" ist defekt.
zx8754
79

Neu im Jahr 2014:

Insbesondere wenn Sie sich auch für Datenmanipulationen im Allgemeinen interessieren (einschließlich Sortieren, Filtern, Teilmengen, Zusammenfassen usw.), sollten Sie sich unbedingt die Funktionen ansehen dplyr, die eine Vielzahl von Funktionen bieten, die Ihre Arbeit speziell mit Datenrahmen erleichtern sollen und bestimmte andere Datenbanktypen. Es bietet sogar eine ziemlich ausgefeilte SQL-Schnittstelle und sogar eine Funktion, um (den meisten) SQL-Code direkt in R zu konvertieren.

Die vier verbindungsbezogenen Funktionen im dplyr-Paket sind (um zu zitieren):

  • inner_join(x, y, by = NULL, copy = FALSE, ...): Gibt alle Zeilen von x zurück, in denen übereinstimmende Werte in y vorhanden sind, und alle Spalten von x und y
  • left_join(x, y, by = NULL, copy = FALSE, ...): Alle Zeilen von x und alle Spalten von x und y zurückgeben
  • semi_join(x, y, by = NULL, copy = FALSE, ...): Gibt alle Zeilen von x zurück, in denen es übereinstimmende Werte in y gibt, wobei nur Spalten von x beibehalten werden.
  • anti_join(x, y, by = NULL, copy = FALSE, ...): Gibt alle Zeilen von x zurück, in denen es keine übereinstimmenden Werte in y gibt, wobei nur Spalten von x beibehalten werden

Es ist alles hier sehr detailliert.

Die Auswahl der Spalten kann durch erfolgen select(df,"column"). Wenn Ihnen dies nicht SQL-ish genug ist, gibt es die sql()Funktion, in die Sie den SQL-Code unverändert eingeben können. Er führt die von Ihnen angegebene Operation so aus, wie Sie sie die ganze Zeit in R geschrieben haben (weitere Informationen finden Sie unter zur dplyr / datenbanken vignette ). Bei korrekter Anwendung werden beispielsweise sql("SELECT * FROM hflights")alle Spalten aus der dplyr-Tabelle "hflights" (ein "tbl") ausgewählt.

Maj
quelle
Auf jeden Fall die beste Lösung angesichts der Bedeutung, die das dplyr-Paket in den letzten zwei Jahren erlangt hat.
Marco Fumagalli
72

Aktualisierung der data.table-Methoden zum Verbinden von Datasets. Unten finden Sie Beispiele für jeden Join-Typ. Es gibt zwei Methoden, eine davon, [.data.tablewenn die zweite data.table als erstes Argument an die Teilmenge übergeben wird. Eine andere Möglichkeit besteht darin, eine mergeFunktion zu verwenden , die an die schnelle data.table-Methode gesendet wird.

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join

library(data.table)

dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]

setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]

# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]

# inner join - use `nomatch` argument
dt1[dt2, nomatch=NULL, on = "CustomerId"]

# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]

# inner join - using merge method
merge(dt1, dt2, by = "CustomerId")

# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)

# see ?merge.data.table arguments for other cases

Unterhalb der Benchmark-Tests basieren Basis R, sqldf, dplyr und data.table.
Benchmark testet nicht verschlüsselte / nicht indizierte Datensätze. Der Benchmark wird für 50M-1-Zeilendatensätze durchgeführt. Es gibt 50M-2 gemeinsame Werte für die Verknüpfungsspalte, sodass jedes Szenario (inner, links, rechts, voll) getestet werden kann und die Verknüpfung immer noch nicht trivial ist. Es ist die Art der Verknüpfung, die die Verknüpfungsalgorithmen gut betont. Timings sind wie die sqldf:0.4.11, dplyr:0.7.8, data.table:1.12.0.

# inner
Unit: seconds
   expr       min        lq      mean    median        uq       max neval
   base 111.66266 111.66266 111.66266 111.66266 111.66266 111.66266     1
  sqldf 624.88388 624.88388 624.88388 624.88388 624.88388 624.88388     1
  dplyr  51.91233  51.91233  51.91233  51.91233  51.91233  51.91233     1
     DT  10.40552  10.40552  10.40552  10.40552  10.40552  10.40552     1
# left
Unit: seconds
   expr        min         lq       mean     median         uq        max 
   base 142.782030 142.782030 142.782030 142.782030 142.782030 142.782030     
  sqldf 613.917109 613.917109 613.917109 613.917109 613.917109 613.917109     
  dplyr  49.711912  49.711912  49.711912  49.711912  49.711912  49.711912     
     DT   9.674348   9.674348   9.674348   9.674348   9.674348   9.674348       
# right
Unit: seconds
   expr        min         lq       mean     median         uq        max
   base 122.366301 122.366301 122.366301 122.366301 122.366301 122.366301     
  sqldf 611.119157 611.119157 611.119157 611.119157 611.119157 611.119157     
  dplyr  50.384841  50.384841  50.384841  50.384841  50.384841  50.384841     
     DT   9.899145   9.899145   9.899145   9.899145   9.899145   9.899145     
# full
Unit: seconds
  expr       min        lq      mean    median        uq       max neval
  base 141.79464 141.79464 141.79464 141.79464 141.79464 141.79464     1
 dplyr  94.66436  94.66436  94.66436  94.66436  94.66436  94.66436     1
    DT  21.62573  21.62573  21.62573  21.62573  21.62573  21.62573     1

Beachten Sie, dass es andere Arten von Verknüpfungen gibt, die Sie ausführen können data.table:
- Aktualisieren bei Verknüpfung - Wenn Sie Werte von einer anderen Tabelle in Ihre Haupttabelle suchen möchten
- Aggregieren bei Verknüpfung - Wenn Sie bei Schlüssel aggregieren möchten, die Sie beitreten, haben Sie keine Um alle Verknüpfungsergebnisse zu materialisieren
- überlappende Verknüpfung - wenn Sie nach Bereichen zusammenführen möchten
- rollierende Verknüpfung - wenn Sie möchten, dass die Zusammenführung mit Werten aus vorhergehenden / nachfolgenden Zeilen übereinstimmen kann, indem Sie sie vorwärts oder rückwärts rollen
- nicht gleichwertige Verknüpfung - wenn Ihre Die Join-Bedingung ist ungleich

Zu reproduzierender Code:

library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
sapply(c("sqldf","dplyr","data.table"), packageVersion, simplify=FALSE)

n = 5e7
set.seed(108)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)

mb = list()
# inner join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x"),
               sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
               dplyr = inner_join(df1, df2, by = "x"),
               DT = dt1[dt2, nomatch=NULL, on = "x"]) -> mb$inner

# left outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.x = TRUE),
               sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
               dplyr = left_join(df1, df2, by = c("x"="x")),
               DT = dt2[dt1, on = "x"]) -> mb$left

# right outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.y = TRUE),
               sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
               dplyr = right_join(df1, df2, by = "x"),
               DT = dt1[dt2, on = "x"]) -> mb$right

# full outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all = TRUE),
               dplyr = full_join(df1, df2, by = "x"),
               DT = merge(dt1, dt2, by = "x", all = TRUE)) -> mb$full

lapply(mb, print) -> nul
jangorecki
quelle
Lohnt es sich, ein Beispiel hinzuzufügen, das zeigt, wie auch verschiedene Spaltennamen verwendet on = werden?
SymbolixAU
1
@Symbolix wir können auf die Veröffentlichung von 1.9.8 warten, da es Nicht-Equi-Joins-Operatoren zu onarg
jangorecki
Ein anderer Gedanke; Lohnt es sich, einen Hinweis hinzuzufügen, dass mit merge.data.tabledem Standardargument sort = TRUEein Schlüssel während der Zusammenführung hinzugefügt wird und dort im Ergebnis verbleibt. Dies ist etwas, auf das Sie achten sollten, insbesondere wenn Sie versuchen, das Setzen von Tasten zu vermeiden.
SymbolixAU
1
Ich bin überrascht, dass niemand erwähnt hat, dass die meisten von ihnen nicht funktionieren, wenn es Dups gibt ...
statquant
@statquant Du kannst einen kartesischen Join machen data.table, was meinst du? Können Sie bitte genauer sein?
David Arenburg
32

dplyr hat seit 0.4 alle diese Joins implementiert, einschließlich outer_join, aber es war erwähnenswert, dass es in den ersten Releases vor 0.4 nicht angeboten wurde outer_join, und infolgedessen gab es eine ganze Weile eine Menge wirklich schlechten Hacky-Workaround-Benutzercodes danach (Sie können solchen Code immer noch in SO finden, Kaggle-Antworten, Github aus dieser Zeit. Daher dient diese Antwort immer noch einem nützlichen Zweck.)

Join-bezogene Release-Highlights :

v0.5 (6/2016)

  • Handhabung für POSIXct-Typ, Zeitzonen, Duplikate, verschiedene Faktorstufen. Bessere Fehler und Warnungen.
  • Neues Suffix-Argument zur Steuerung des Empfangs von Suffix-Duplikat-Variablennamen (# 1296)

v0.4.0 (1/2015)

  • Implementiere Right Join und Outer Join (# 96)
  • Mutierende Verknüpfungen, die einer Tabelle neue Variablen aus übereinstimmenden Zeilen in einer anderen hinzufügen. Filtern von Verknüpfungen, die Beobachtungen aus einer Tabelle filtern, basierend darauf, ob sie mit einer Beobachtung in der anderen Tabelle übereinstimmen oder nicht.

v0.3 (10/2014)

  • Kann jetzt durch verschiedene Variablen in jeder Tabelle left_join: df1%>% left_join (df2, c ("var1" = "var2"))

v0.2 (5/2014)

  • * _join () ordnet Spaltennamen nicht mehr neu an (# 324)

v0.1.3 (4/2014)

Problemumgehungen pro Hadley-Kommentar in dieser Ausgabe:

  • right_join (x, y) ist in Bezug auf die Zeilen dasselbe wie left_join (y, x), nur die Spalten sind unterschiedlich geordnet. Einfach mit select (new_column_order) zu umgehen
  • Outer_join ist im Grunde eine Union (left_join (x, y), right_join (x, y)) - dh alle Zeilen in beiden Datenrahmen bleiben erhalten.
smci
quelle
1
@ Gregor: Nein, es sollte nicht gelöscht werden. Für R-Benutzer ist es wichtig zu wissen, dass Verknüpfungsfunktionen viele Jahre lang fehlten, da der größte Teil des Codes Problemumgehungen oder manuelle Ad-hoc-Implementierungen oder Ad-hoc-Funktionen mit Vektoren von Indizes enthält oder die Verwendung dieser Pakete oder noch schlimmer vermeidet Operationen überhaupt. Jede Woche sehe ich solche Fragen auf SO. Wir werden die Verwirrung für viele Jahre aufheben.
smci
@ Gregor und andere, die gefragt haben: Aktualisiert, Zusammenfassung historischer Änderungen und was seit einigen Jahren fehlte, als diese Frage gestellt wurde. Dies zeigt, warum Code aus dieser Zeit größtenteils hackig war oder die Verwendung von dplyr-Joins vermieden wurde und beim Zusammenführen zurückfiel. Wenn Sie historische Codebasen auf SO und Kaggle überprüfen, können Sie immer noch die Adoptionsverzögerung und den ernsthaft verwirrten Benutzercode sehen, der dazu geführt hat. Lassen Sie mich wissen, wenn Ihnen diese Antwort immer noch fehlt.
smci
@ Gregor: Diejenigen von uns, die es Mitte 2014 angenommen haben, haben nicht den besten Moment ausgewählt. (Ich dachte, es gäbe 2013 frühere (0.0.x) Veröffentlichungen, aber nein, mein Fehler.) Ungeachtet dessen gab es bis weit in das Jahr 2015 hinein immer noch viel Mistcode. Das hat mich motiviert, dies zu posten. Ich habe versucht, es zu entmystifizieren der Rohstoff, den ich auf Kaggle gefunden habe, Github, SO.
smci
2
Ja, ich verstehe, und ich denke, Sie machen das gut. (Ich war auch ein Early Adopter, und obwohl ich die dplyrSyntax immer noch mag , hat der Wechsel von lazyevalzu rlangBackends eine Menge Code für mich gebrochen, was mich dazu brachte, mehr zu lernen data.table, und jetzt benutze ich meistens data.table.)
Gregor Thomas
@ Gregor: Interessant, können Sie mich auf Fragen und Antworten (Ihre oder die anderer) hinweisen, die dies abdecken? Es scheint, dass jede unserer Adoptionen von plyr/ dplyr/ data.table/ tidyverse stark davon abhängt, in welchem ​​Jahr wir begonnen haben und in welchem ​​(embryonalen) Zustand sich die Pakete damals befanden, im Gegensatz zu heute ...
smci
25

Beim Verbinden von zwei Datenrahmen mit jeweils ~ 1 Million Zeilen, einer mit 2 Spalten und der andere mit ~ 20, habe ich überraschenderweise festgestellt merge(..., all.x = TRUE, all.y = TRUE), dass sie dann schneller sind dplyr::full_join(). Dies ist mit dplyr v0.4

Das Zusammenführen dauert ~ 17 Sekunden, full_join dauert ~ 65 Sekunden.

Etwas zu essen, da ich für Manipulationsaufgaben normalerweise standardmäßig dplyr verwende.

BradP
quelle
24

Für den Fall eines linken Joins mit einer 0..*:0..1Kardinalität oder eines rechten Joins mit einer 0..1:0..*Kardinalität ist es möglich, die einseitigen Spalten vom Joiner (der 0..1Tabelle) direkt dem Joinee (der 0..*Tabelle) zuzuweisen und dadurch die Erstellung von zu vermeiden eine völlig neue Datentabelle. Dies erfordert das Abgleichen der Schlüsselspalten vom Teilnehmer mit dem Joiner und das Indizieren + Ordnen der Zeilen des Joiners entsprechend für die Zuweisung.

Wenn der Schlüssel eine einzelne Spalte ist, können wir einen einzelnen Aufruf verwenden, match()um den Abgleich durchzuführen. Dies ist der Fall, den ich in dieser Antwort behandeln werde.

Hier ist ein Beispiel, das auf dem OP basiert, außer dass ich eine zusätzliche Zeile df2mit der ID 7 hinzugefügt habe , um den Fall eines nicht übereinstimmenden Schlüssels im Joiner zu testen. Dies wird effektiv df1LEFT JOIN df2:

df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
##   CustomerId Product   State
## 1          1 Toaster    <NA>
## 2          2 Toaster Alabama
## 3          3 Toaster    <NA>
## 4          4   Radio Alabama
## 5          5   Radio    <NA>
## 6          6   Radio    Ohio

Oben habe ich eine Annahme fest codiert, dass die Schlüsselspalte die erste Spalte beider Eingabetabellen ist. Ich würde argumentieren, dass dies im Allgemeinen keine unangemessene Annahme ist, da es seltsam wäre, wenn Sie einen data.frame mit einer Schlüsselspalte haben, wenn er nicht als erste Spalte des data.frame von eingerichtet worden wäre der Anfang. Und Sie können die Spalten jederzeit neu anordnen, um dies zu erreichen. Eine vorteilhafte Konsequenz dieser Annahme ist, dass der Name der Schlüsselspalte nicht fest codiert werden muss, obwohl er vermutlich nur eine Annahme durch eine andere ersetzt. Präzision ist ein weiterer Vorteil der Ganzzahlindizierung sowie der Geschwindigkeit. In den folgenden Benchmarks werde ich die Implementierung so ändern, dass die Indizierung von Zeichenfolgennamen verwendet wird, um den konkurrierenden Implementierungen zu entsprechen.

Ich denke, dies ist eine besonders geeignete Lösung, wenn Sie mehrere Tabellen haben, die Sie mit einer einzelnen großen Tabelle verknüpfen möchten. Ein wiederholtes Neuerstellen der gesamten Tabelle für jede Zusammenführung wäre unnötig und ineffizient.

Wenn Sie jedoch möchten, dass der Teilnehmer aus diesem Grund aus irgendeinem Grund unverändert bleibt, kann diese Lösung nicht verwendet werden, da sie den Teilnehmer direkt ändert. In diesem Fall können Sie jedoch einfach eine Kopie erstellen und die Vor-Ort-Zuweisung (en) für die Kopie ausführen.


Als Randnotiz habe ich kurz nach möglichen passenden Lösungen für mehrspaltige Schlüssel gesucht. Leider waren die einzigen passenden Lösungen, die ich gefunden habe:

  • ineffiziente Verkettungen. zB match(interaction(df1$a,df1$b),interaction(df2$a,df2$b))oder die gleiche Idee mit paste().
  • ineffiziente kartesische Konjunktionen, z outer(df1$a,df2$a,`==`) & outer(df1$b,df2$b,`==`).
  • Basis-R- merge()und äquivalente paketbasierte Zusammenführungsfunktionen, die immer eine neue Tabelle zuweisen, um das zusammengeführte Ergebnis zurückzugeben, und daher nicht für eine direkte zuweisungsbasierte Lösung geeignet sind.

Siehe beispielsweise Abgleichen mehrerer Spalten in verschiedenen Datenrahmen und Abrufen einer anderen Spalte als Ergebnis , Abgleichen von zwei Spalten mit zwei anderen Spalten , Abgleichen mehrerer Spalten und das Betrügen dieser Frage, bei der ich ursprünglich die direkte Lösung Kombinieren entwickelt habe zwei Datenrahmen mit unterschiedlicher Anzahl von Zeilen in R .


Benchmarking

Ich habe mich für ein eigenes Benchmarking entschieden, um zu sehen, wie sich der In-Place-Zuweisungsansatz im Vergleich zu den anderen in dieser Frage angebotenen Lösungen verhält.

Testcode:

library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);

solSpecs <- list(
    merge=list(testFuncs=list(
        inner=function(df1,df2,key) merge(df1,df2,key),
        left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
        right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
        full =function(df1,df2,key) merge(df1,df2,key,all=T)
    )),
    data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
        inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
        right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
        full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
        inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
        right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
        full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
        inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
        inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
        left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
        right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    plyr=list(testFuncs=list(
        inner=function(df1,df2,key) join(df1,df2,key,'inner'),
        left =function(df1,df2,key) join(df1,df2,key,'left'),
        right=function(df1,df2,key) join(df1,df2,key,'right'),
        full =function(df1,df2,key) join(df1,df2,key,'full')
    )),
    dplyr=list(testFuncs=list(
        inner=function(df1,df2,key) inner_join(df1,df2,key),
        left =function(df1,df2,key) left_join(df1,df2,key),
        right=function(df1,df2,key) right_join(df1,df2,key),
        full =function(df1,df2,key) full_join(df1,df2,key)
    )),
    in.place=list(testFuncs=list(
        left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
        right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
    ))
);

getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];

initSqldf <- function() {
    sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
    if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
        sqldf(); ## creates a new connection
    } else {
        assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
    }; ## end if
    invisible();
}; ## end initSqldf()

setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
    ## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
    callExpressions <- list();
    nms <- character();
    for (solType in solTypes) {
        testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
        if (is.null(testFunc)) next; ## this join type is not defined for this solution type
        testFuncName <- paste0('tf.',solType);
        assign(testFuncName,testFunc,envir=env);
        argSpecKey <- solSpecs[[solType]]$argSpec;
        argSpec <- getArgSpec(argSpecs,argSpecKey);
        argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
        for (i in seq_along(argSpec$args)) {
            argName <- paste0('tfa.',argSpecKey,i);
            assign(argName,argSpec$args[[i]],envir=env);
            argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
        }; ## end for
        callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
        nms[length(nms)+1L] <- solType;
    }; ## end for
    names(callExpressions) <- nms;
    callExpressions;
}; ## end setUpBenchmarkCall()

harmonize <- function(res) {
    res <- as.data.frame(res); ## coerce to data.frame
    for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
    for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
    ##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
    res <- res[order(names(res))]; ## order columns
    res <- res[do.call(order,res),]; ## order rows
    res;
}; ## end harmonize()

checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
    for (joinType in getJoinTypes()) {
        callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
        if (length(callExpressions)<2L) next;
        ex <- harmonize(eval(callExpressions[[1L]]));
        for (i in seq(2L,len=length(callExpressions)-1L)) {
            y <- harmonize(eval(callExpressions[[i]]));
            if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
                ex <<- ex;
                y <<- y;
                solType <- names(callExpressions)[i];
                stop(paste0('non-identical: ',solType,' ',joinType,'.'));
            }; ## end if
        }; ## end for
    }; ## end for
    invisible();
}; ## end checkIdentical()

testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
    callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
    bm <- microbenchmark(list=callExpressions,times=times);
    if (is.null(metric)) return(bm);
    bm <- summary(bm);
    res <- setNames(nm=names(callExpressions),bm[[metric]]);
    attr(res,'unit') <- attr(bm,'unit');
    res;
}; ## end testJoinType()

testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
    joinTypes <- getJoinTypes();
    resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
    if (is.null(metric)) return(resList);
    units <- unname(unlist(lapply(resList,attr,'unit')));
    res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
    for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
    res;
}; ## end testAllJoinTypes()

testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {

    res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
    res[solTypes] <- NA_real_;
    res$unit <- NA_character_;
    for (ri in seq_len(nrow(res))) {

        size <- res$size[ri];
        overlap <- res$overlap[ri];
        joinType <- res$joinType[ri];

        argSpecs <- makeArgSpecsFunc(size,overlap);

        checkIdentical(argSpecs,solTypes);

        cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
        res[ri,match(names(cur),names(res))] <- cur;
        res$unit[ri] <- attr(cur,'unit');

    }; ## end for

    res;

}; ## end testGrid()

Hier ist ein Benchmark des Beispiels basierend auf dem OP, das ich zuvor demonstriert habe:

## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
    default=list(copySpec=1:2,args=list(
        df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
        df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
        'CustomerId'
    )),
    data.table.unkeyed=list(copySpec=1:2,args=list(
        as.data.table(df1),
        as.data.table(df2),
        'CustomerId'
    )),
    data.table.keyed=list(copySpec=1:2,args=list(
        setkey(as.data.table(df1),CustomerId),
        setkey(as.data.table(df2),CustomerId)
    ))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2

checkIdentical(argSpecs);

testAllJoinTypes(argSpecs,metric='median');
##    join    merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed      plyr    dplyr in.place         unit
## 1 inner  644.259           861.9345          923.516        9157.752      1580.390  959.2250 270.9190       NA microseconds
## 2  left  713.539           888.0205          910.045        8820.334      1529.714  968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804           909.1900          923.944        8930.668      1533.135 1063.7860 269.8495 218.1035 microseconds
## 4  full 1302.203          3107.5380         3184.729              NA            NA 1593.6475 270.7055       NA microseconds

Hier vergleiche ich zufällige Eingabedaten und probiere verschiedene Skalen und Muster der Schlüsselüberlappung zwischen den beiden Eingabetabellen aus. Dieser Benchmark ist weiterhin auf den Fall eines einspaltigen Ganzzahlschlüssels beschränkt. Um sicherzustellen, dass die In-Place-Lösung sowohl für linke als auch für rechte Verknüpfungen derselben Tabellen funktioniert, verwenden alle zufälligen Testdaten die 0..1:0..1Kardinalität. Dies wird implementiert, indem die Schlüsselspalte des ersten Datenrahmens beim Generieren der Schlüsselspalte des zweiten Datenrahmens ohne Ersatz abgetastet wird.

makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {

    com <- as.integer(size*overlap);

    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
            df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
            'id'
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            'id'
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkey(as.data.table(df1),id),
            setkey(as.data.table(df2),id)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
    sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()

## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
##     user   system  elapsed
## 22024.65 12308.63 34493.19

Ich habe Code geschrieben, um Log-Log-Diagramme der obigen Ergebnisse zu erstellen. Ich habe für jeden Überlappungsprozentsatz ein separates Diagramm erstellt. Es ist ein bisschen überladen, aber ich mag es, wenn alle Lösungstypen und Verknüpfungstypen in derselben Darstellung dargestellt werden.

Ich habe die Spline-Interpolation verwendet, um eine glatte Kurve für jede Kombination aus Lösung und Verbindungstyp anzuzeigen, die mit einzelnen PCH-Symbolen gezeichnet wurde. Der Verknüpfungstyp wird durch das Symbol pch erfasst, wobei ein Punkt für innere, linke und rechte spitze Klammern für links und rechts und ein Diamant für volle verwendet werden. Der Lösungstyp wird anhand der in der Legende gezeigten Farbe erfasst.

plotRes <- function(res,titleFunc,useFloor=F) {
    solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
    normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
    joinTypes <- getJoinTypes();
    cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='magenta');
    pchs <- list(inner=20L,left='<',right='>',full=23L);
    cexs <- c(inner=0.7,left=1,right=1,full=0.7);
    NP <- 60L;
    ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
    ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
    for (overlap in unique(res$overlap)) {
        x1 <- res[res$overlap==overlap,];
        x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
        xlim <- c(1e1,max(x1$size));
        xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
        ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
        yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
        yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
        plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
        abline(v=xticks,col='lightgrey');
        abline(h=yticks.minor,col='lightgrey',lty=3L);
        abline(h=yticks,col='lightgrey');
        axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
        axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
        axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
        for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
            x2 <- x1[x1$joinType==joinType,];
            for (solType in solTypes) {
                if (any(!is.na(x2[[solType]]))) {
                    xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
                    points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
                }; ## end if
            }; ## end for
        }; ## end for
        ## custom legend
        ## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
        ## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
        leg.cex <- 0.7;
        leg.x.in <- grconvertX(0.275,'nfc','in');
        leg.y.in <- grconvertY(0.6,'nfc','in');
        leg.x.user <- grconvertX(leg.x.in,'in');
        leg.y.user <- grconvertY(leg.y.in,'in');
        leg.outpad.w.in <- 0.1;
        leg.outpad.h.in <- 0.1;
        leg.midpad.w.in <- 0.1;
        leg.midpad.h.in <- 0.1;
        leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
        leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
        leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
        leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
        leg.main.w.in <- leg.join.w.in*length(joinTypes);
        leg.main.h.in <- leg.sol.h.in*length(solTypes);
        leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
        leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
        leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
        leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
        leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
        leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
        rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
        text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
        text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
        for (i in seq_along(joinTypes)) {
            joinType <- joinTypes[i];
            points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
        }; ## end for
        title(titleFunc(overlap));
        readline(sprintf('overlap %.02f',overlap));
    }; ## end for
}; ## end plotRes()

titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);

R-Merge-Benchmark-Single-Column-Integer-Key-optional-One-to-One-99

R-Merge-Benchmark-Single-Column-Integer-Key-optional-One-to-One-50

R-Merge-Benchmark-Single-Column-Integer-Key-optional-Eins-zu-Eins-1


Hier ist ein zweiter groß angelegter Benchmark, der in Bezug auf Anzahl und Art der Schlüsselspalten sowie Kardinalität anspruchsvoller ist. Für diesen Benchmark verwende ich drei Schlüsselspalten: ein Zeichen, eine Ganzzahl und eine logische, ohne Einschränkungen der Kardinalität (dh 0..*:0..*). (Im Allgemeinen ist es aufgrund von Gleitkomma-Vergleichskomplikationen nicht ratsam, Schlüsselspalten mit doppelten oder komplexen Werten zu definieren, und im Grunde verwendet niemand den Rohtyp, geschweige denn für Schlüsselspalten, daher habe ich diese Typen nicht in den Schlüssel aufgenommen Aus Informationsgründen habe ich zunächst versucht, vier Schlüsselspalten zu verwenden, indem ich eine POSIXct-Schlüsselspalte einfügte, aber der POSIXct-Typ spielte sqldf.indexedaus irgendeinem Grund nicht gut mit der Lösung, möglicherweise aufgrund von Gleitkomma-Vergleichsanomalien entfernte es.)

makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {

    ## number of unique keys in df1
    u1Size <- as.integer(size*uniquePct/100);

    ## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
    ## use ceiling() to ensure we cover u1Size; will truncate afterward
    u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));

    ## generate the unique key values for df1
    keys1 <- expand.grid(stringsAsFactors=F,
        idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=sample(u1SizePerKeyColumn),
        idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
    )[seq_len(u1Size),];

    ## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
    ## also scramble the order afterward
    keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];

    ## common and unilateral key counts
    com <- as.integer(size*overlap);
    uni <- size-com;

    ## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
    keys2 <- data.frame(stringsAsFactors=F,
        idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=u1SizePerKeyColumn+sample(uni),
        idLogical=sample(c(F,T),uni,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
    );

    ## rbind random keys from df1; this will complete the many-to-many relationship
    ## also scramble the order afterward
    keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];

    ##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
    keyNames <- c('idCharacter','idInteger','idLogical');
    ## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            keyNames
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            keyNames
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkeyv(as.data.table(df1),keyNames),
            setkeyv(as.data.table(df2),keyNames)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
    sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.assortedKey.optionalManyToMany()

sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
##     user   system  elapsed
## 38895.50   784.19 39745.53

Die resultierenden Diagramme unter Verwendung des oben angegebenen Diagrammcodes:

titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);

R-Merge-Benchmark-sortierter-Schlüssel-optional-viele-zu-viele-99

R-Merge-Benchmark-sortierte-Schlüssel-optional-viele-zu-viele-50

R-Merge-Benchmark-sortierter-Schlüssel-optional-viele-zu-viele-1

bgoldst
quelle
Sehr schöne Analyse, aber es ist schade, dass Sie die Skala von 10 ^ 1 bis 10 ^ 6 eingestellt haben. Das sind so winzige Sätze, dass Geschwindigkeitsunterschiede fast irrelevant sind. 10 ^ 6 bis 10 ^ 8 wäre interessant zu sehen!
Jangorecki
1
Ich habe auch festgestellt, dass Sie das Timing des Klassenzwangs in den Benchmark aufnehmen, wodurch er für die Join-Operation ungültig wird.
Jangorecki
8
  1. Mit der mergeFunktion können wir die Variable der linken oder rechten Tabelle auswählen, so wie wir alle mit der select-Anweisung in SQL vertraut sind (EX: Wählen Sie a. * ... oder Select b. * Von .....).
  2. Wir müssen zusätzlichen Code hinzufügen, der aus der neu verknüpften Tabelle Teilmenge wird.

    • SQL: - select a.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

    • R: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]

Gleicher Weg

  • SQL: - select b.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

  • R: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df2)]

Sanjeeb
quelle
7

Für eine innere für alle Spalten verbinden, könnten Sie auch fintersectaus dem data.table -package oder intersectaus dem dplyr -package als Alternative zu , mergeohne die Angabe by-columns. Dadurch erhalten Sie die Zeilen, die zwischen zwei Datenrahmen gleich sind:

merge(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
dplyr::intersect(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
data.table::fintersect(setDT(df1), setDT(df2))
#    V1 V2
# 1:  B  2
# 2:  C  3

Beispieldaten:

df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)
Jaap
quelle
5

Join aktualisieren. Ein weiterer wichtiger Join im SQL-Stil ist ein " Update-Join ", bei dem Spalten in einer Tabelle mithilfe einer anderen Tabelle aktualisiert (oder erstellt) werden.

Ändern der Beispieltabellen des OP ...

sales = data.frame(
  CustomerId = c(1, 1, 1, 3, 4, 6), 
  Year = 2000:2005,
  Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
  CustomerId = c(1, 1, 4, 6), 
  Year = c(2001L, 2002L, 2002L, 2002L),
  State = state.name[1:4]
)

sales
# CustomerId Year Product
#          1 2000 Toaster
#          1 2001 Toaster
#          1 2002 Toaster
#          3 2003   Radio
#          4 2004   Radio
#          6 2005   Radio

cust
# CustomerId Year    State
#          1 2001  Alabama
#          1 2002   Alaska
#          4 2002  Arizona
#          6 2002 Arkansas

Angenommen, wir möchten den Status des Kunden aus custder Einkaufstabelle hinzufügen und dabei die Jahresspalte salesignorieren. Mit Basis R können wir übereinstimmende Zeilen identifizieren und dann Werte kopieren über:

sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]

# CustomerId Year Product    State
#          1 2000 Toaster  Alabama
#          1 2001 Toaster  Alabama
#          1 2002 Toaster  Alabama
#          3 2003   Radio     <NA>
#          4 2004   Radio  Arizona
#          6 2005   Radio Arkansas

# cleanup for the next example
sales$State <- NULL

Wie hier zu sehen ist, matchwird die erste übereinstimmende Zeile aus der Kundentabelle ausgewählt.


Aktualisieren Sie den Join mit mehreren Spalten. Der obige Ansatz funktioniert gut, wenn wir uns nur einer einzigen Spalte anschließen und mit dem ersten Spiel zufrieden sind. Angenommen, wir möchten, dass das Messjahr in der Kundentabelle mit dem Verkaufsjahr übereinstimmt.

Wie @ bgoldst Antwort erwähnt, matchmit interactionkönnte eine Option für diesen Fall sein. Einfacher könnte man data.table verwenden:

library(data.table)
setDT(sales); setDT(cust)

sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]

#    CustomerId Year Product   State
# 1:          1 2000 Toaster    <NA>
# 2:          1 2001 Toaster Alabama
# 3:          1 2002 Toaster  Alaska
# 4:          3 2003   Radio    <NA>
# 5:          4 2004   Radio    <NA>
# 6:          6 2005   Radio    <NA>

# cleanup for next example
sales[, State := NULL]

Rolling Update Join. Alternativ möchten wir möglicherweise den letzten Status übernehmen, in dem der Kunde gefunden wurde:

sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]

#    CustomerId Year Product    State
# 1:          1 2000 Toaster     <NA>
# 2:          1 2001 Toaster  Alabama
# 3:          1 2002 Toaster   Alaska
# 4:          3 2003   Radio     <NA>
# 5:          4 2004   Radio  Arizona
# 6:          6 2005   Radio Arkansas

Die drei Beispiele konzentrieren sich vor allem auf das Erstellen / Hinzufügen einer neuen Spalte. In den zugehörigen R-FAQ finden Sie ein Beispiel für das Aktualisieren / Ändern einer vorhandenen Spalte.

Frank
quelle