Allgemeine Hinweise zu einer Archivlösung. ~ 15 tb und wächst.

9

Ich benötige ein besseres Speicher- und Archivierungssystem für die Dateien meines kleinen Unternehmens. Insbesondere sind die Dateien abgeschlossene Videoprojekte. Abgesehen von Zeit- und Kostenbeschränkungen glaube ich nicht an eine der Lösungen, über die ich nachgedacht habe. Deshalb lege ich das Problem und meine Gedanken dar. Ich würde mich über Meinungen freuen.

Budget: Ich glaube daran, das auszugeben, was es braucht. Davon abgesehen sind wir ein kleines Unternehmen. Ich hoffe, dass ich für <5k und mehr um 1-3k herauskommen kann. Das könnte ein Wunschtraum sein. Sag es mir einfach.

Das Problem:

  • Rohe Videodateien haben eine enorme Dateigröße. Wir haben bisher wahrscheinlich 10 + tb angesammelt und das wächst schnell.
  • Die Videobearbeitung erfordert einen schnellen Lese- / Schreibzugriff auf Dateien, sodass ein zentraler oder Cloud-basierter Dateiserver nicht schnell genug ist. Daher brauchen wir wahrscheinlich eine Lösung für alte Projekte, und aktuelle Projekte müssen vor Ort bleiben.
  • Wir wollen eine Art Redundanz und Offsite-Lösung.

Was wir derzeit tun:

  • Wir verwenden große, hochwertige externe Festplatten.
  • Wir kaufen immer paarweise und duplizieren Inhalte manuell. Mit anderen Worten, wir arbeiten von einer ab und duplizieren die Dateien in die andere, was als Backup / Fallback dient.
  • Diese Festplatten sind mit Firewire800 oder USB3 schnell genug, um direkt zu arbeiten.
  • Einmal gefüllt, legen wir das Paar beiseite.

Was ist los mit der aktuellen Lösung:

  • Obwohl die Daten auf zwei Laufwerken dupliziert werden, werden diese Laufwerke nicht "gesichert" oder außerhalb des Standorts gespeichert.
  • Die Organisation über diese vielen externen Festplatten hinweg ist schwierig. Welches Projekt befindet sich auf welchem ​​Laufwerk? usw.
  • Irgendwann werden wir eine lächerliche Menge an Festplatten haben.
  • Duplizierung ist kein RAID.

Optionen:

Ein lokaler Server

  • Kaufen Sie einen Rack-Server und ein Rack-Festplatten-Array-Gehäuse wie einen Norco (SAS) (20 Einschübe).
  • Alle Videodateien würden auf diesem Server gespeichert. Wir könnten einen Cloud-Dienst installieren und bezahlen, um diesen einen Computer / Server zu sichern. CrashPlan funktioniert unter Linux und hat keine Begrenzung für die Datenmenge. Die Festplatten wären physische Laufwerke, die mit dem Server verbunden sind, sodass wir die "No NAS" -Regeln umgehen, die Unternehmen wie CrashPlan haben. Da es sich nicht um einen Personal Computer handelt, kann die Synchronisierung rund um die Uhr ausgeführt werden. Dies würde das Offsite-Problem lösen.
  • Anstatt einen Online-Sicherungsdienst wie CrashPlan zu verwenden, könnten wir ein Skript schreiben, um diese Dateien mit einem Amazon Glacier-Konto zu synchronisieren.
  • Eine Richtlinie, nach der Video-Peeps für aktuelle Projekte von externen Festplatten funktionieren, das Projekt jedoch nach Abschluss auf diesem neuen Computer gespeichert werden muss. Mit anderen Worten, verwenden Sie weiterhin externe Festplatten für aktuelle Projekte und speichern Sie archivierte Projekte auf diesem Server.

Cloud-basierte Sicherungsdienste (CrashPlan.com, BackBlaze.com, Carbonite.com)

  • In der Regel können Sie nur eine externe Festplatte sichern, die physisch mit einem Computer verbunden ist. (keine NAS- oder Netzwerklaufwerke).
  • Normalerweise erwarten sie, dass ein gesichertes externes Laufwerk mit Ihrem Computer verbunden bleibt und alle Daten auf dem Laufwerk verbleiben. Was passiert mit den Backups, wenn Sie monatelang keine externe Festplatte anschließen? Wenn Sie Speicherplatz bereinigen, indem Sie alte Projekte löschen, werden diese auch aus dem Onlinedienst gelöscht.
  • Erfordert, dass unsere Benutzer die externen Festplatten an ihren Computer angeschlossen lassen, bis sich alle Daten in der Cloud befinden. Dies kann für ein großes Projekt Wochen dauern.
  • Das Wiederherstellen eines Projekts wäre aufgrund der Internetübertragungsgeschwindigkeit sehr langsam.
  • Diese Cloud-Sicherungskonten sind normalerweise spezifisch für einen Benutzer / einen Computer. Wenn also eine Festplatte von einem Benutzer gesichert wird. Dann arbeitet ein zweiter Benutzer an dem Projekt. Was bedeutet das?

Ein großes NAS

  • Ein NAS ist "Network Area Storage". Sie stecken so viele Festplatten ein, wie sie aufnehmen können. Es wird sie überfallen. Sie können über die Netzwerkverbindung oder über USB3 / Firewire darauf zugreifen.
  • In die meisten ist ein Betriebssystem integriert. Sie können also keine andere Software wie Cloud-basierte Sicherungsdienste ausführen. Sie können auch keine Anpassungen vornehmen oder Ihre eigene Software ausführen. Sie bekommen, was Sie kaufen.
  • Große NASs sind ziemlich teuer und nicht wirklich so groß. Sie finden nicht viele mit mehr als 4 Buchten. Derzeit ist eine große HD 3 TB. 4bays können also irgendwo <12 TB Speicherplatz sein. Nicht super bequem für die Zukunft.

Andere Ideen sind:

  • Bandsicherungen.
  • Archivieren Sie die älteren Projekte einfach direkt bei Amazon Glacier und überspringen Sie den Aufbau eines lokalen Servers, um sie zu speichern.

Danke für jeden Rat !!! Jed

maestrojed
quelle
Wie oft müssen Sie nach Abschluss eines Projekts zurückgehen und mit seinen Daten arbeiten?
Michael Hampton
Ihr Verständnis von "Big NAS" ist bemerkenswert klein. Es gibt Unternehmen von NetApp über EMC, IBM, Isilon bis hin zu vielen anderen, die sich gerne mit Ihnen zusammensetzen möchten.
Mfinni
Wir müssen ein- oder zweimal im Monat auf diese Daten zurückgreifen. Wenn sich der Zugriff auf diese Daten verzögern würde (Amazon Glacier), wäre es meiner Meinung nach akzeptabel, wenn wir Stunden und nicht Tage sprechen würden.
Maestrojed
Verwenden Sie dann keinen Gletscher. Der Abruf wird hoch sein und Ihr Buchhalter wird streichen, wenn er die Rechnung erhält.
HopelessN00b
@mfinni Ich bin sicher, EMC und IBM hätten großartige Ideen und großartige Hardware (wussten nichts von NetApp). Ich bin mir nicht sicher, ob das in mein beschriebenes Budget passt, und es scheint auch nicht für kleine Unternehmen geeignet zu sein. Es sieht so aus, als ob NetApp Hardware ähnlich dem herstellt, was ich als "Hard Drive Array" von Norco bezeichnet habe. Ich habe dies beim Erstellen meiner eigenen Serveridee erwähnt. Schlagen Sie diesen Ansatz vor?
Maestrojed

Antworten:

12

Band. So einfach ist das. Quantum hat ein SuperSTore-System, das weit mehr kann, und ich habe sie für weniger als Ihren 5000er Preis gesehen - neu. Das Gute ist, dass Sie Bänder zur Speicherung herausziehen können, sodass die Skalierung sehr kosteneffizient ist und die Bänder lange halten.

TomTom
quelle
Da Sie mit den Abrufzeiten in der Größenordnung von Stunden zufrieden sind, bin ich in dieser Hinsicht vollständig bei TomTom. Klebeband wird viel unterschätzt und eignet sich hervorragend für solche Dinge.
MadHatter
Wenn Sie mit Band arbeiten, stellen Sie einfach sicher, dass Sie etwas haben, mit dem Sie das Band häufig testen können. Nach meiner Erfahrung funktionieren etwa 75% der Bandsicherungen nicht, weil Benutzer dieselben Kassetten mehrmals verwenden und überrascht sind, wenn sie 3 Jahre später keine Daten von ihnen abrufen können.
Matthew
2
Überraschend genug, wenn man bedenkt, dass die richtige Einnahme (Husten) eine Archivierungslänge garantiert (ich denke 30 Jahre). Und Sie könnten leicht 2 Kopien machen. Nehmen Sie die Waage wirklich gut. Es ist eher die - sorry - Idiotie von Menschen, die die Wiederherstellung wahrscheinlich nie einmal testen ... obwohl ich das in einem Zeitplan (1 Woche, 1 Monat, 1 Jahr) tun würde.
TomTom
1
+1 - Dies ist praktisch eine Lehrbuchhülle für Bänder mit hoher Kapazität. Die zusätzlichen Kosten für das Hinzufügen von Speicher zu einem bandbasierten Archiv (selbst wenn zwei Bänder zum Speichern an und außerhalb des Standorts geschnitten werden) sind geringer als bei Festplattenlaufwerken und Bändern , die für die Archivierung vorgesehen sind. LTO wird von einem Branchenverband unterstützt, der sich verpflichtet hat, Produkte zu entwickeln, die den Zugriff auf ältere Medien ermöglichen. Trotzdem sollten Sie in einigen Jahren, wenn Sie das Bandelement ersetzen, wahrscheinlich die alten Daten in neue Bandformate migrieren, wenn auch nur, um potenzielle Bitfäule zu bekämpfen. Wenn Sie dies als "OPEX" benötigen, ziehen Sie eine Leasingoption in Betracht.
Evan Anderson
1
Das Band ist gut, erfordert jedoch Disziplin - regelmäßige Tests, Rotation außerhalb des Standorts usw. Ich persönlich würde mich für ein Near-Line-NAS (wahrscheinlich nas4free) und eine ratenbegrenzte Rsync für eine identische Box außerhalb des Standorts entscheiden.
Quadruplebucky
4

Zunächst würde ich raten, Gletscher zu vermeiden. Es hört sich gut an, bis Sie die Kosten für die Wiederherstellung einer großen Datenmenge senken. Dies ist ein inoffizieller Rechner, mit dem Sie die Kosten für die Lagerung und den Abruf von Gletschern berechnen und selbst beurteilen können . Das Wiederherstellen von Terabyte an Daten von Glacier ist eine ziemlich unattraktive Perspektive.

Zweitens würde ich empfehlen, dass Sie für einfache Sicherungszwecke mit einem einzelnen NAS-Server mit vielen Laufwerken davonkommen könnten. Für mich klingt es so, als hätten Sie sich nur NAS-Optionen für Privatanwender und kleine Büros angesehen, und Sie sollten ein geeignetes NAS-Angebot in Betracht ziehen. Ich bevorzuge Dell und möchte auf die PowerVault NAS-Server von Dell hinweisen , aber HP, IBM, SuperMicro und fast alle anderen haben ähnliche Angebote. Ich habe zu Hause einen älteren Dell PowerVault NX, der als Medienbibliothek dient, und zwölf 2-TB-Nearline-SAS-Festplatten. Heutzutage sind auch 4 TB Nearline-SAS-Laufwerke verfügbar, sodass Sie jederzeit einen geeigneten NAS-Server damit füllen können. (Oder kaufen Sie ein paar NAS-Server.)

Sie können eine davon problemlos in Ihrem lokalen LAN verwenden, eine Backup-Software Ihrer Wahl installieren ( z. B. Bacula, wenn Sie dies kostenlos möchten, oder eines von einem Dutzend kommerziellen Angeboten, wenn Sie Unterstützung von Anbietern wünschen) und ein großes RAID-Volume als Ihr verwenden Sicherungsziel. Sie können dann einen Cloud-Sicherungsdienst verwenden, um diesen NAS-Server zu sichern, und die Vorteile lokaler und Remote-Sicherungen nutzen. Auch das mache ich zu Hause. Richtiger NAS-Server, Terabyte an Daten, die auf einem Cloud-Dienst gesichert wurden.

Und natürlich können Sie auch Band verwenden ... kaufen Sie ein LTO-Bandlaufwerk oder eine Bibliothek - persönlich werde ich große Anstrengungen unternehmen, um Band- oder optische Datenträger zu vermeiden, aber dies sind legitime Optionen und möglicherweise billiger als eine Festplatte -to-Disk-Lösung.

Schließlich würde ich vorschlagen, dass Sie den Hauptnachteil von Cloud-Backup-Diensten berücksichtigen müssen, nämlich die Größe Ihrer Internet-Pipe. Das Hochladen von Terabyte an Daten über Ihre Internetverbindung kann Wochen oder Monate dauern und / oder zusätzliche Gebühren von Ihrem Internetdienstanbieter verursachen. Obwohl sie eine praktikable Option zum Sichern von Daten sind, selbst von Unternehmensdaten, ist dies eine Einschränkung, die die meisten Menschen erst berücksichtigen, wenn sie sie bereits erreicht haben.

HopelessN00b
quelle
+1. Glacier ist archiviert - es ist ernsthaft S ++++ für Backup. Backup bedeutet ewig keine Wiederherstellung, dann VIEL - und das 5% -Kontingent bedeutet, im Falle einer Wiederherstellung zu zahlen.
TomTom
1

Ich denke, es hängt von Ihrem Budget ab. Wenn Sie nur ~ $ 6k ausgeben können, müssen Sie wahrscheinlich Ihr eigenes NAS bauen. Ich würde mir nas4free ansehen und was ein Server Sie kostet. Wenn Sie 20.000 US-Dollar ausgeben können, können Sie wahrscheinlich einen Server mit einer Menge Festplatten und einer anständigen RAID-Karte oder einem Software-RAID unter Linux oder was auch immer füllen.

Für etwa 40.000 US-Dollar können Sie eine High-End-1U (IBM x3550 M4, Emulex 10 GBit nic mit 2 Ports, 4-Gbit-Netzwerkkarte, 128 GB RAM, 2 lokale 10k-SAS-Festplatten) mit 10-Gbit-iSCSI auf eine Infortrend-SAN-Box mit 24 4-TB-SAS-Festplatten übertragen in Scheiben schneiden und würfeln, wie Sie wollen. RAID6 ist eine vernünftige Konfiguration.

Klebeband ist auch eine gute Idee, aber ich weiß nicht, wie billig es wirklich ist. Es hängt davon ab, wie groß eine Bibliothek ist. Wenn eine 48-Band-Bibliothek gut ist, können Sie dies erneut mit einer 1U- und einer externen SAS-Karte für etwa 30.000 US-Dollar und 2 LTO6-Laufwerke tun. Dann benötigen Sie jedoch Softwarelizenzen, um Bandsicherungen oder ähnliches zu verwalten. Ich habe nur NetBackup verwendet, was hier wahrscheinlich nicht gut zu Ihnen passt. Vergessen Sie nur nicht, dass Sie die Bandbibliothek wahrscheinlich auf irgendeine Weise in Software steuern möchten. Aber wenn Sie die Bibliothek verlassen haben, vergessen Sie nicht, das Band zu suchen und es zu laden sowie einen Bereitstellungsbereich für den Zugriff ...

jmp242
quelle