Warum hat sich die Erforschung genetischer Algorithmen verlangsamt?

45

Bei der heutigen Diskussion einiger Themen auf Einführungsebene, einschließlich der Verwendung genetischer Algorithmen; Mir wurde gesagt, dass sich die Forschung auf diesem Gebiet wirklich verlangsamt hat. Als Grund wurde angegeben, dass sich die meisten Menschen auf maschinelles Lernen und Data Mining konzentrieren.
Update: Ist das korrekt? Und wenn ja, welche Vorteile hat ML / DM gegenüber GA?

FossilizedCarlos
quelle
2
Bitte formulieren Sie die Frage neu, damit weniger Meinungen, sondern mehr Fakten gefragt werden (z. B. Nachteile von GA / EA, die im Laufe der Zeit deutlicher geworden sind).
Raphael
1
Soweit ich weiß, wird GA in den meisten Fällen nicht der beste sein, wenn viele Algorithmen angegeben werden, die ein bestimmtes Problem lösen können.
Strin

Antworten:

33

Nun, maschinelles Lernen im Sinne der statistischen Mustererkennung und des Data Mining sind definitiv heißere Bereiche, aber ich würde nicht sagen, dass sich die Forschung an evolutionären Algorithmen besonders verlangsamt hat. Die beiden Bereiche werden im Allgemeinen nicht auf die gleichen Arten von Problemen angewendet. Es ist nicht sofort klar, wie Sie mit einem datengesteuerten Ansatz beispielsweise herausfinden können, wie Sie Arbeitsschichten am besten planen oder Pakete effizienter weiterleiten können.

Evolutionäre Methoden werden am häufigsten bei harten Optimierungsproblemen anstelle der Mustererkennung eingesetzt. Die direktesten Konkurrenten sind Operations Research-Ansätze, im Grunde genommen mathematische Programmierung und andere Formen der heuristischen Suche wie Tabusuche, simuliertes Tempern und Dutzende anderer Algorithmen, die zusammen als "Metaheuristik" bezeichnet werden. Es gibt zwei sehr große jährliche Konferenzen zum Thema Evolutionsberechnung (GECCO und CEC), eine Reihe kleinerer Konferenzen wie PPSN, EMO, FOGA und Evostar sowie mindestens zwei große hochwertige Fachzeitschriften (IEEE Transactions on Evolutionary Computation und MIT Press) Fachzeitschrift Evolution Computation) sowie eine Reihe kleinerer Fachzeitschriften, die einen Teil ihrer breiteren Fokussierung auf die EU beziehen.

Trotzdem gibt es einige Vorteile, die das Gebiet, das allgemeiner als "maschinelles Lernen" angesehen wird, bei jedem Vergleich von "Schärfe" hat. Zum einen geht es eher um viel festere theoretische Grundlagen, die den Mathematikern immer gefallen. Zweitens befinden wir uns in einem goldenen Zeitalter für Daten, und viele der modernsten Methoden des maschinellen Lernens beginnen erst dann zu glänzen, wenn Tonnen von Daten und Tonnen von Rechenleistung zur Verfügung stehen "richtig".

deong
quelle
Können Sie bitte klarstellen / hervorheben, wie Ihre Antwort auf die Frage lautet?
Raphael
Ich bin mir nicht sicher, worauf ich genau eingehen soll.
Deong
Beantworten Sie einfach die Frage des OP: Was sind die (harten) Vorteile von ML gegenüber GA / EA? Oder schlagen Sie etwas Orthogonales vor?
Raphael
2
Ich sage, dass sie (meistens) nicht auf die gleichen Probleme zutreffen. Der Vorteil von ML ist, dass es sehr gut für die Mustererkennung und -klassifizierung geeignet ist. Der Vorteil von GAs ist, dass sie an schwierigen Optimierungsproblemen arbeiten. Darüber hinaus ist es, als würde man nach den Vorteilen von Autos gegenüber Häusern fragen. Viele ML-Algorithmen beinhalten die Lösung eines Optimierungsproblems als Trainingsschritt, und es gibt GA-basierte Lernansätze (Learning Classifier Systems), aber meistens handelt es sich nur um völlig unterschiedliche Bereiche.
Deong
21

Vor einigen Jahrzehnten dachten die Leute, genetische und evolutionäre Algorithmen seien Schweizer Taschenmesser, die von spektakulären frühen Ergebnissen angetrieben wurden. Aussagen wie die Bausteinhypothese wurden gemacht, um zu beweisen, dass sie im Allgemeinen gute Strategien sind.

Die strengen Ergebnisse ließen jedoch nach und waren oft ernüchternd, insbesondere das No-Free-Lunch-Theorem . Es stellte sich heraus, dass genetische / evolutionäre Algorithmen oft anständige Heuristiken sind, aber in keiner Hinsicht optimal.

Heute wissen wir, dass es umso weniger Sinn macht, genetische / evolutionäre Algorithmen zu verwenden, je mehr wir über ein Problem bzw. seine Struktur wissen, da andere Methoden, die dieses Wissen verwenden, diese um ein Vielfaches übertreffen. In Fällen, in denen nur wenig über das vorliegende Problem bekannt ist, bleiben sie jedoch eine praktikable Alternative, da sie überhaupt funktionieren.

Raphael
quelle
8
Ich denke, es sollte betont werden, dass das NFLT nicht nur GAs, sondern alle heuristischen Suchalgorithmen "einschränkt". Keiner von ihnen ist in jeder Hinsicht großartig, und in Ihrem Sinne ist keiner von ihnen in irgendeiner Hinsicht optimal.
Juho
Ich erinnere mich, genetische Algorithmen zur Lösung eines aerodynamischen Problems verwendet zu haben, und nach wochenlangen Berechnungen war das Ergebnis unendlich schlechter als das Ergebnis der gröbsten Aerodynamiktheorie. Ich habe den Eindruck, dass künstliche Intelligenz und Ähnlichkeiten absolut keinen Ersatz für Domänenwissen darstellen
user5193682
@ user9589 Die beiden schließen sich nicht gegenseitig aus. Domänenwissen kann Ihnen bei der Auswahl und Optimierung heuristischer Methoden helfen.
Raphael
@Raphael Ich würde sagen, dass künstliche Intelligenz Ihnen hilft, das Domänenwissen zu optimieren.
user5193682
13

Ein kritischer Teil der Geschichte fehlt meines Erachtens in den anderen Antworten:

Genetische Algorithmen sind vor allem bei Brute-Force-Suchproblemen nützlich.

In vielen Zusammenhängen können einfachere Optimierungsstrategien oder Inferenzmodelle (was Sie allgemein als maschinelles Lernen bezeichnen würden) eine sehr gute Leistung erbringen und dies weitaus effizienter als die Brute-Force-Suche.

Genetische Algorithmen, wie das simulierte Annealing, sind am effektivsten als Strategie für den Umgang mit schwierigen (z. B. NP-vollständigen) Suchproblemen. Diese Bereiche sind in der Regel durch die inhärente Härte der Probleme so begrenzt, dass das Optimieren und Durchlaufen bescheidener Faktoren in der Lösungsstrategie durch die schrittweise Verbesserung genetischer Algorithmen häufig nicht sehr nützlich und daher nicht besonders aufregend ist.

jrk
quelle
12

Bis zu einem gewissen Grad wird maschinelles Lernen mathematischer und es können Algorithmen nachgewiesen werden, dass sie funktionieren. In mancher Hinsicht sind GAs sehr "was ist da drin passiert" und Sie können die Frage "Also, was hat Ihr Programm gemacht?" Nicht perfekt beantworten. (Na ja, in den Augen einiger Leute jedenfalls).

Ich persönlich befürworte die Kombination von neuronalen Netzen und GA = GANNs. In meiner Abschlussarbeit habe ich einen Algorithmus zur Medikamentenvorhersage entwickelt, der zuerst NNs, dann eine GA und schließlich eine GANN verwendet, die das Beste aus beiden Welten herausholt und beide anderen Sets übertrifft. YMMV jedoch.

Mark Mayo
quelle
2
Geben Sie ein einfaches Beispiel an, in dem die Vorteile von "ML" deutlich werden, um Ihre Behauptung (en) nachzuweisen. Bitte geben Sie auch einen entsprechenden Verweis / Link zu Ihrer Arbeit an.
Raphael
verwandt: Neuroevolution
Franck Dernoncourt
4

Maschinelles Lernen enthüllt einen großen Teil der zu entwickelnden und anzuwendenden mathematischen Geräte. Genetische Algorithmen, meistens heuristisch.

OM Nom Nom
quelle
2
Sie können Dinge über GA / EA beweisen. Es ist jedoch schwer. ML hat zwar strenge Grundlagen, aber diejenigen, die ML-Techniken anwenden, tun dies oft ad-hoc. Gibt es Ihr Argument also nur auf dem Papier oder gibt es einen Unterschied in der Praxis?
Raphael