Technologie für kurzlebige private VMs

Ich versuche, ein System zu erstellen, das kurzlebige (CI- und Test-Builds) Softwarekomponenten ausführt. Es ist gemäß meinen Anforderungen obligatorisch, dass jedes auf einem privaten Host ausgeführt wird. Ich nehme an, dass diese Definition auch Paravirtualisierungsoptionen enthält , da es mir anscheinend viel Kopfschmerzen ersparen wird.

Ich arbeite an einem Mac, so dass so ziemlich jede Technologie aus ist, libvirt und quemu usw. einfach nicht für mich funktionieren. Ich plane jedoch die Bereitstellung in Debian. Alles, was unter Debian ausgeführt wird, ist wieder auf dem Tisch, vorausgesetzt, ich kann die Bereitstellung des Host-Computers sowie seiner Gastdomänen per Skript ausführen.

Mein beabsichtigtes Setup war, dass ich ein Debian-Installationsprogramm booten kann, dass etwas bedeuten sollte, dass die Maschine beim Booten automatisch bereitgestellt wird (Chef, Puppet, Babushka, eigentlich nichts) - und ein Teil dieser Bereitstellung sollte eine erstellen Template-Rootfs, die zum Booten eines Containers verwendet werden können. Der Container selbst muss ebenfalls bereitgestellt werden, damit er beim Hochfahren des Containers weiß, was zu tun ist, und kann die Arbeit erledigen und dann beenden.

Kurz gesagt, hier ist der Workflow, den ich brauche:

1. Starten Sie eine Maschine (virtuell oder anderweitig) und halten Sie sie für die Arbeit bereit.
2. Die Arbeit sollte von einem Skript ausgeführt werden, das von Chefkoch / Puppe / Babuschka / etc. Installiert wurde
3. Wenn die Arbeit eingeht, sollte eine virtuelle Maschine gestartet werden, um die Arbeit zu erledigen.
4. Die VM sollte die Arbeit erledigen, ihre Ressourcen beenden und an den übergeordneten / Host-Computer freigeben. (Es ist wichtig, dass dies auf mindestens Hunderten von Gast-VMs auf angemessener Hardware skaliert wird.)

Ich bin an einem Punkt angelangt, an dem ich Folgendes versucht und sie aus den unten aufgeführten Gründen aufgegeben habe:

Für den Hostcomputer

1. Debian-Micro-ISO-Images vor dem Start mit Instalinux (LinuxCOE-unterstützt) ( Schlecht: Funktionierte überhaupt nicht ("Keine Kernelmodule gefunden") (da die Instalinux-Images nicht mit den FTP-Repositorys synchron sind, ist diese Lösung anscheinend notorisch fragil. Es lässt auch nicht viel Spielraum für die Nachinstallation und das Ablegen bekannter SSH-Schlüssel, Host-Schlüssel usw. auf dem Computer. Es scheint wie Feuer und Vergessen, am Ende hätte ich einen laufenden Computer, aber keinen Zugriff darauf .)
2. Debian netinst ISO vor dem Start ( schlecht : dieselben Probleme wie oben, außer dass zumindest die Installation normalerweise abgeschlossen ist, da zwischen der ISO und dem FTP-Repository keine Kernelunterschiede bestehen . Nach der Installation immer noch begrenzter Spielraum. Gut : Absolut zuverlässig und wiederholbar, Einfach auf einen VM-Technologie-Stack auf einem Mac oder einer Bare-Metal-Maschine zu werfen, würde überall funktionieren, aber ich kann ihn nicht genug nachinstallieren.
3. Verschiedene Methoden zum Erstellen eines Rootfs und zum Kompilieren als bootfähiges Festplatten-Image ( schlecht : Das Wenige, das ich zum Arbeiten bringen konnte, war höllisch zerbrechlich, schwer auf einem realen Computer zu installieren und ist ein komplexer Erstellungsprozess. Gut: Wenn Ich könnte es zum Laufen bringen, dies scheint den größten Spielraum für die Vorkonfiguration des Computers auf eine bestimmte Spezifikation mit SSH-Schlüsseln, Hostschlüsseln, Hostnamen, von Git installierter Software und was auch immer zu bieten, aber dann wäre die Frage, wie zu verpacken ist es für die Verteilung oder wie man seine Neuerstellung per Skript schreibt. )

Ich bin mir ehrlich gesagt nicht sicher, welche Technologie von Menschen erwartet wird, um eine VM von Null auf ein laufendes, funktionierendes und nützliches System zu bringen. Scheint mir drei Schritte zu sein: a) Betriebssystem, b) Systemkonfiguration (Benutzer usw.) und dann c) Dateisystemänderungen.

Für die (virtuellen) Gastmaschinen:

1. Viele Dinge, meistens denke ich, dass die Antwort hier ein schreibgeschütztes Rootfs ist, das mit erstellt wurde debootstrap, und eine spezielle Partition im LXC-Container, die die für diese bestimmte Instanz auszuführenden Arbeiten enthält (ein Jobmanifest ). Fügen Sie alle üblichen Vorsichtsmaßnahmen zum Erstellen des Betriebssystems, Booten, Erstellen von Benutzern, Auschecken von Software von Git und Arbeiten ein.

Ich bin mir wirklich nicht sicher, nach welchen Tools ich greifen soll. Das Problem sollte wohl gut gelöst sein. Aber ich kann einfach nicht herausfinden, wo ich wirklich anfangen soll.

Die meisten Leute scheinen für den Host-Computer vorzuschlagen, dass ich eine Virtualisierungstechnologie auswählen, einen Computer in einem funktionierenden Zustand starten und dann einen Snapshot erstellen sollte (libvirt scheint der logische Favorit dafür zu sein). Verwenden des Snapshots, um nachfolgende Installationen zum Testen oder in der Produktion aufzurufen.

Für die Gastcomputer scheint lxc die einfachste Option zu sein, außer dass das Hinterlegen eines Containers und das spätere Herstellen einer Verbindung über die Konsole in allen vorhandenen Kerneln unterbrochen ist und die neueste Version von lxc, die für stabiles Debian verfügbar ist, älter als 18 Monate ist und es fehlen viele Funktionen, die weit verbreitet sind.

Normalerweise bin ich ein Anwendungsentwickler und arbeite nicht oft mit Technologie auf Serverebene (und ich bin sicher, dass SF diese Frage als "zu subjektiv" kennzeichnet), aber ich bin mir wirklich nicht sicher, nach welchen Tools ich greifen soll.

Das letzte Wort ist, dass ich ein ähnlich gestapeltes Projekt (travis-ci.org) kenne, das Vagrant-Boxen dafür verwendet. Das scheint ein ziemlich stumpfes Instrument zu sein, große, langsame, rubinrote Tools, die für die kleine Desktop-Bereitstellung von Test-VMs entwickelt wurden, die für kritische Service-Infrastrukturen verwendet werden, aber ich kenne auch einige dieser Typen und sie sind schlauer als ich. Vielleicht haben sie einfach aufgegeben.

Jede Hilfe geschätzt.

Einige Ideen:

1. Ihr Punkt "Hunderte von VMs auf vernünftiger Hardware" lässt mich (ohne persönliche Erfahrung) an VMs denken, die entweder über das Netzwerk booten oder den größten Teil ihres Speicherplatzes (/ usr) über NFS teilen. Hängt davon ab, wie ähnlich Ihre VMs sind.
2. "Das Wenige, was ich zum Arbeiten bringen konnte, war höllisch zerbrechlich" Kaum zu glauben. Können Sie genauer sagen, wo das Problem liegt?
3. "wäre schwierig auf einem realen Computer zu installieren" Sie meinen "schwierig" im Vergleich zu was, mit der gewünschten 1-Klick-Lösung für die VM-Erstellung? Ich würde fragen: Wie schwierig ist das und wie oft wird das passieren? Was ist der Unterschied, wenn die initrd für die jeweilige Hardware neu erstellt wird?
4. "aber ich kann es nicht genug nachinstallieren" Was brauchst du / brauchst du und warum funktioniert das nicht? Sie können das Herunterladen eines Skripts zum Teil des Startvorgangs machen. Die VM erhält ihre IP per DHCP (fest konfiguriert für die MAC-Adresse der VM) und Samba liefert abhängig von der IP-Adresse des Clients unterschiedliche Skripts nach der Installation an die VMs.

Während ich Ihren Beitrag las, dachte ich immer wieder, dass Vagabund und Jenkins mit dem Vagabund-Plugin ziemlich gut zu Ihren Bedürfnissen passen würden. Jede Box, die tatsächlich über die Anzahl der VMs verfügt, über die Sie sprechen, sollte nicht einmal den Overhead der Tools bemerken, die die Umgebung warten.

Mit etwas, das auf Apple und Debian funktioniert, habe ich nur die virtuelle Box ausprobiert. Das Schöne an der Verwendung von virtualbox ist, dass Sie eine VM auf Ihrem Mac-System erstellen und mit derselben Version der virtuellen Box auf ein Debian-System kopieren können.

Wenn Sie Hunderte von VMs mit virtuellem Box-Sound haben, werden Sie viel Zeit damit verbringen, die vboxmange- Oberfläche zu verwenden, um die erforderlichen eindeutigen Informationen für jede VM zu skripten. Wie UUIDs für Festplatten, Mac-Adresse auf Netzwerkschnittstellen.

Wenn das Basissystem dieselbe Software verwendet, die auf dieselbe Weise konfiguriert wurde, können Sie eine Momentaufnahme des Systems in einer virtuellen Box erstellen und einfrieren. Damit keine Änderungen über Ihren eingefrorenen Schnappschuss geschrieben werden, sondern in einen neuen temporären Speicherbereich geschrieben werden. Shudown dann die VM wieder her nach hinten Momentaufnahme und Sie arbeiten mit einem sauberen System ohne jede Änderungen ab , die während des Tests durchgeführt wurden. Dies kann alles mit vboxmange skriptiert werden .

Mit Ihrem Schnappschuss können Sie auch Hunderte von Kopien dieses VM-Images erstellen. Verwenden der vboxmange-Skriptschnittstelle zum Erstellen der Kopien, die in Bezug auf die Bedeutung, z. B. Benutzeroberflächen und Mac-Adressen, eindeutig sind. Lassen Sie dann ein Startskript aufrufen, was sich ändert, welche Konfigurationen Sie zum Testen auf Ihre VMs anwenden oder verschiedene Tests ausführen müssen.