Als «reduce» getaggte Fragen

84
Hauptunterschied zwischen Karte und Reduzieren

Ich habe beide Methoden verwendet, bin aber ziemlich verwirrt über die Verwendung beider Methoden. Ist etwas, was mapkann, aber reducenicht kann und umgekehrt? Hinweis: Ich weiß, wie man beide Methoden verwendet. Ich frage nach dem Hauptunterschied zwischen diesen Methoden und wann wir sie...

81
Der Container läuft über die Speichergrenzen hinaus

In Hadoop v1 habe ich jedem 7-Mapper- und Reduzierer-Steckplatz eine Größe von 1 GB zugewiesen. Meine Mapper und Reduzierer funktionieren einwandfrei. Mein Computer hat 8G Speicher, 8 Prozessor. Bei YARN wurde beim Ausführen derselben Anwendung auf demselben Computer ein Containerfehler angezeigt....

79
Hadoop abgeschnittener / inkonsistenter Zählername

Im Moment habe ich einen Hadoop-Job, der Zähler mit einem ziemlich großen Namen erstellt. Zum Beispiel die folgende : stats.counters.server-name.job.job-name.mapper.site.site-name.qualifier.qualifier-name.super-long-string-which-is-not-within-standard-limits. Dieser Zähler wird auf der...

78
Reduzieren Sie das Array auf Swift

Ich versuche, ein Array von Objekten auf eine Menge in Swift zu reduzieren, und dies ist mein Code: objects.reduce(Set<String>()) { $0.insert($1.URL) } Ich erhalte jedoch eine Fehlermeldung: Type of expression is ambiguous without more context. Ich verstehe nicht, was das Problem...

71
Zählen Sie Zeilen in großen Dateien

Ich arbeite normalerweise mit Textdateien mit einer Größe von ~ 20 GB und zähle sehr oft die Anzahl der Zeilen in einer bestimmten Datei. So wie ich es jetzt mache, ist es einfach cat fname | wc -lund es dauert sehr lange. Gibt es eine Lösung, die viel schneller wäre? Ich arbeite in einem...