Wie automatisiert man Failover auf EC2?

Wie verwalten Sie Ihre Instanzen in EC2 und behandeln (z. B.) Failover, wenn Sie ihre eigenen Cluster verwalten (z. B. Amazon Autoscale, Rightscale, Scalr nicht verwenden oder nicht dafür bezahlen)? Ich frage mich, ob die meisten Leute, wie ich vermute, am Ende nur ihre eigenen Skripte gegen die EC2-API schreiben.

Das ist zweifellos unser Ansatz: Entwickeln Sie unseren eigenen Python Boto-basierten Monitoring- / Neustart-Daemon, der außerhalb des Standorts ausgeführt wird, und warten Sie auf UDP-Keep-Alives von unseren Instanzen. Bei einem Fehler erstellen wir eine Momentaufnahme der Volumes, registrieren Images, starten neue Instanzen, löschen alte Volumes und so weiter.

Ab und zu denke ich, dass es beim Hacken unserer Skripte einige Open-Source-Tools geben muss, die sich bereits mit diesen Problemen befassen und die nicht den Einschränkungen von (etwa) Scalr unterliegen, aber ich komme immer von Google zurück mit leeren Händen. (Dinge wie Scalr sind in den unterstützten Sätzen / Versionen / Konfigurationen von Software ziemlich begrenzt und haben spezielle und umständliche Möglichkeiten, diese Setups zu manipulieren.)

Auch das Linux-HA / Pacemaker-Ökosystem (Heartbeat, ldirectord usw.) scheint für EC2 nicht wirklich geeignet zu sein . (Aber dann fand ich das - obwohl ich nicht sicher bin, ob dies wirklich eine qualitativ hochwertige Lösung ist).

Nun, ich möchte nicht nur das Offensichtliche erklären, sondern die allgemeine Idee ist, diese Komplexität auf die von Amazon verwalteten Dienste zu übertragen.

Im Frontend würden Sie also Amazon Elastic Load Balancing (ELB) verwenden, um einen hochverfügbaren Lastenausgleich bereitzustellen. Auf der Rückseite verwenden Sie Amazon Relational Database Service (gehostet von MySQL), SimpleDB und S3 als Speicher. Alle diese Funktionen werden von Amazon verwaltet und enthalten eine Art Hochverfügbarkeits- / Failover-Behandlung.

Dadurch bleiben in der Regel Ihre Webanwendungsserver und möglicherweise weniger häufig verwendete Servertypen (Rendering-Server, selbst installierte NoSQL-Datenspeicher usw.) erhalten.

Webapp-Server werden normalerweise mit den in ELB integrierten Integritätsprüfungen gut genug gehandhabt. Sie können einen geringen Leistungsabfall hinnehmen, wenn ein Webanwendungsserver ausfällt, oder konsistent +1 Server mehr als erforderlich bereitstellen. Wenn Ihre Konfiguration einfach ist und ein Webapp-Server ausfällt, kann ELB zusammen mit Cloudwatch automatisch einen neuen Webapp-Server für Sie erstellen.

Ihre eigenen benutzerdefinierten Server sind eine andere Sache. Für diese ist es wahr, Sie sind auf sich allein gestellt und müssen mit in der Anwendung integrierten Methoden auskommen oder etwas mit benutzerdefinierten Skripten / Open-Source-HA-Tools zusammenkleben.

Der Kauf der Rightscale-Lösung ist möglicherweise zu teuer. Weniger teure Amazon-Tools wie ELB, grundlegende CloudWatch-Warnmeldungen (jetzt kostenlos für eine Auflösung von 5 Minuten) oder AutoScale sind es jedoch wert, wenn Sie eine hohe Verfügbarkeit benötigen.

RightScale bietet einige großartige Artikel zur Automatisierung des Failovers in EC2. Während die meisten von ihnen Ihnen zeigen, wie Sie mit RightScale selbst vorgehen, sind die Prinzipien allgemein und wahrscheinlich hilfreich für alle, die darüber nachdenken, wie Sie eine Failover-Architektur auf EC2 einrichten.

Die von Ihnen beschriebenen Probleme (HA, Überwachung von benutzerdefinierten Servern, Dienste für das Abhören von Leitungen) werden im Allgemeinen von einem PaaS-Anbieter behandelt. Rightscale und Scalr wurden bereits in einer früheren Antwort erwähnt und es gibt zusätzliche gute Optionen (siehe hier für einige PaaS-Optionen:

/programming/9542784/looking-for-paas-providers-recommendations )

Sie sollten überlegen, welcher der Anbieter am besten zu Ihren Anforderungen passt.

Hinweis: Ich arbeite für cloudify, einen Open-Source-PaaS-Anbieter.

Ich habe kürzlich in unserem Engineering-Blog einen Beitrag darüber verfasst, wie ELB in Verbindung mit Auto Scaling verwendet werden kann, um für jede Art von App ein automatisches Failover zu erzielen. Es wird erläutert, wie mithilfe von ELB-Integritätsprüfungen der Status Ihrer App gepingt und Aktionen zur automatischen Skalierung ausgelöst werden können.

Sie installieren Heartbeat auf beiden Servern. Sie hängen eine elastische IP an den aktiven Server an. Sie konfigurieren ein Skript für das Failover, indem Sie eine API-Anforderung zum Abrufen der elastischen IP initiieren. Sobald der Standby-Server die elastische IP erhalten hat. dauert ca. 30-60 Sekunden) es kann der Master / Aktiv sein.

Ich habe hier nicht die Einzelheiten zu liefern.

Amazon bietet bereits Elastic Load Balancing an ... Warum das Rad neu erfinden?