Was bedeutete Turing, als er sagte, dass „Maschinen keine Überraschungen hervorrufen können“, was auf einen Irrtum zurückzuführen ist?

29

Ich traf unter Aussage von Alan M. Turing hier :

"Die Ansicht, dass Maschinen keine Überraschungen hervorrufen können, ist meines Erachtens auf einen Irrtum zurückzuführen, dem Philosophen und Mathematiker besonders ausgesetzt sind. Dies ist die Annahme, dass alle Konsequenzen dieser Tatsache auftauchen, sobald eine Tatsache einem Geist präsentiert wird der Geist gleichzeitig damit. Es ist eine sehr nützliche Annahme unter vielen Umständen, aber man vergisst zu leicht, dass es falsch ist. "

Ich bin kein englischer Muttersprachler. Könnte es jemand in einfachem Englisch erklären?

smwikipedia
quelle
2
Vielleicht ist es besser für Philosophie-Portale geeignet, als für harte Wissenschaft wie CS
Bulat
3
@Bulat Ich wollte dasselbe sagen - und zu Englischlernern weiterleiten -, aber dann wurde mir klar, dass es einige CS-bezogene Inhalte gibt, die in einer Antwort erklärt werden können, die wahrscheinlich nicht aufgegriffen werden würde andere Teile von Stack Exchange.
David Richerby
7
Ein gutes Beispiel ist die Iteration der Transformation z: = z² + c , wobei z und c komplexe Zahlen sind. Was passiert, wenn ich einen Startpunkt in der Ebene z nehme und iteriere, wird die Zahl unendlich oder nicht? Ein gewöhnlicher Kerl würde sagen, ja, dies gibt Ihnen zwei Regionen oder vielleicht noch ein paar mehr, in denen der Wert auf Null und der Rest auf unendlich geht. Relativ wenig überraschend. Dann kommt Mandelbrot und zeichnet die Regionen auf der Ebene, die von dieser einfachen "Maschine" definiert wird. Da das Ergebnis aus dem Nadeldrucker stammt, erweist sich diese einfache "Maschine" als ... seltsam.
David Tonhofer
Facebook und andere soziale Medien sind ein gutes Beispiel dafür ... Viele der Konsequenzen ihrer Algorithmen sind nicht etwas, was von den Machern (oder wirklich von irgendjemandem) erwartet wurde.
Aslum
Eine etwas skurrile Person hat einmal mit einer
Feuermetapher darauf hingewiesen

Antworten:

30

Mathematiker und Philosophen gehen oft davon aus, dass Maschinen (und hier bedeutet er wahrscheinlich "Computer") uns nicht überraschen können. Dies liegt daran, dass sie davon ausgehen, dass wir, sobald wir eine Tatsache erfahren, sofort alle Konsequenzen dieser Tatsache verstehen. Dies ist oft eine nützliche Annahme, aber es ist leicht zu vergessen, dass es falsch ist.

Er sagt, dass Systeme mit einfachen, endlichen Beschreibungen (z. B. Turing-Maschinen) ein sehr kompliziertes Verhalten aufweisen können und dass dies einige Leute überrascht. Wir können das Konzept von Turing-Maschinen leicht verstehen, aber dann erkennen wir, dass sie komplizierte Konsequenzen haben, wie die Unentscheidbarkeit des Stopp-Problems und so weiter. Der Fachbegriff lautet hier "Wissen wird nicht unter Abzug geschlossen". Das heißt, wir können eine Tatsache  A , aber nicht  B , obwohl AB impliziert  .

Ehrlich gesagt bin ich mir nicht sicher, ob Turings Argument sehr gut ist. Vielleicht habe ich den Vorteil, fast 70 Jahre nach Turing zu schreiben, und ich verstehe, dass der typische Mathematiker viel mehr über mathematische Logik weiß als zu Turings Zeiten. Mir scheint jedoch, dass Mathematiker mit der Vorstellung von einfachen Systemen mit komplexem Verhalten größtenteils vertraut sind. Zum Beispiel kennt jeder Mathematiker die Definition einer Gruppe , die nur aus vier einfachen Axiomen besteht. Aber niemand - heute oder damals - würde denken: "Aha. Ich kenne die vier Axiome, deshalb kenne ich jede Tatsache über Gruppen." In ähnlicher Weise geben Peanos Axiome eine sehr kurze Beschreibung der natürlichen Zahlen, aber niemand, der sie liest, denkt: "Richtig, ich kenne jetzt jeden Satz über die natürlichen Zahlen. Let '

David Richerby
quelle
22
Historisch gesehen hatte das frühe 20. Jahrhundert einen starken akademischen Glauben an die "Lösung" der Mathematik. ZB Hilberts Programm und Whitehead + Russels Principia Mathematica . Gödels Arbeit löste diese Aufgabe negativ, aber ich stelle mir vor, dass es einige Zeit gedauert hat, bis die Akademiker diesen Gedanken vollständig verstanden haben. Selbst wenn man die Korrektheit Gödels voll anerkannte, erinnerte man sich immer noch an die großartigen Ideen Hilberts. Ich denke, Turing, der erst zwei Jahrzehnte nach Gödel schreibt, würde sein Publikum in diesem Kontext ansprechen.
BurnsBA
7
Ich würde fragen, ob die meisten Mathematiker "viel mehr über mathematische Logik wissen" als Turing. Es ist jedoch offensichtlich, dass fast alle heutigen Menschen weitaus mehr praktische Erfahrung damit haben, was Maschinen (und insbesondere Computer) können als er.
Alephzero
4
@alephzero Das habe ich nicht gesagt! Ich sagte, dass der durchschnittliche Mathematiker heute mehr über mathematische Logik weiß als der durchschnittliche Mathematiker zu Turings Zeiten.
David Richerby
14
Ihr Argument scheint nicht zu sein, dass Turings Argument nicht gut ist, sondern dass es unnötig ist oder sich an einen Strohmann richtet. Ich vermute sehr, dass Turing von echten Leuten solche Argumente vorgebracht bekommen hat, also glaube ich nicht, dass er aus dem Nichts einen Strohmann macht. Wie Diskrete Eidechse in einem Kommentar feststellt, sagt Turing nur, dass ein bestimmtes Argument gegen Maschinen, das uns überrascht, schlecht ist. Ihre Antwort sagt nur, dass dieses Argument im Laufe der Zeit noch offensichtlicher geworden ist. Das heißt, die Leute (wenn auch in der Regel keine Experten) argumentieren noch heute in diesem Sinne.
Derek Elkins
Es ist das Fehlen eines epistemischen Verschlusses.
Dan D.
19

Nur ein Beispiel - angesichts der Schachregeln sollte jeder sofort die beste Strategie finden, um Schach zu spielen.

Natürlich funktioniert es nicht. Sogar Menschen sind nicht gleich, und Computer können uns übertreffen, weil sie besser in der Lage sind, aus den Fakten Schlussfolgerungen zu ziehen.

Bulat
quelle
1
Ich bin mir nicht sicher, ob das ein gutes Beispiel ist. Die Leute haben leicht Schachstrategien, sobald sie die Regeln richtig verstanden haben, und obwohl diese Strategien offensichtlich fehlerhaft und gegen erfahrenere Spieler und moderne Engines nutzlos sind, wären sie gegen frühe Computerschach-Engines gut genug gewesen.
Leftaroundabout
1
Mein Punkt ist genau, dass nicht nur Menschen unterschiedlich sind, sondern auch Computer. Dumme Computer der Turing-Ära bedeuten also nicht, dass sie immer dumm sein werden. Möglicherweise müssen Sie jedoch wissen, dass Turing lange vor dem Beginn des Schachspiels verstorben ist.
Bulat
1
Ich halte dies für ein gutes Beispiel und fasse das Wesentliche von Turings Absatz zusammen.
copper.hat
@leftaroundabout Also ... ist Schach ein Unentschieden, wenn es optimal gespielt wird, oder ein Sieg von Weiß oder Schwarz? Mehr auf den Punkt gebracht: Eine relativ neue Entdeckung, dass extrem lange Endspiele möglicherweise zu einer Überarbeitung der 50-Züge-Ziehungsregeln führen - eine solche Entdeckung würde im Sinne des Zitats als "Überraschung" gelten
Hagen von Eitzen,
12

Dies ist die Idee der Entstehung , bei der komplexes Verhalten aus dem Zusammenspiel relativ einfacher Regeln resultiert. Es gibt viele Beispiele in der Natur, wie dieser Link zeigt. Insektenkolonien, Vogelschwärme, Fischschwärme und natürlich das Bewusstsein. In einem Vogelschwarm oder einer Fischschwarm trifft jede Person im Schwarm nur Entscheidungen auf der Grundlage der anderen, die sie unmittelbar umgeben. Wenn Sie jedoch eine Gruppe dieser Personen nach diesen Regeln zusammenfassen, werden Sie ein koordinierteres Verhalten feststellen als Sie würden ohne einen übergeordneten Plan erwarten. Wenn Sie auf Youtube gehen und Demonstrationen von Roboterschwärmen sehenSie sehen, dass sie alle vermeiden, sich gegenseitig zu schlagen und im Einklang arbeiten. Überraschenderweise muss dies nicht durch einen einzigen zentralen Computer erreicht werden, der das Verhalten jedes einzelnen Roboters koordiniert, sondern kann stattdessen mithilfe von Schwarmrobotik erfolgen, bei der jeder Roboter wie die Insekten, die Vögel oder die Fische lokale Entscheidungen trifft, die führen zur entstehenden Koordination.

Eine weitere interessante Demonstration des aufkommenden Verhaltens ist Conways Spiel des Lebens . Die Regeln für das Spiel sind extrem einfach, können aber zu sehr faszinierenden Ergebnissen führen

Ein verlockendes Argument gegen die Fähigkeit von Computern, menschliche Intelligenz zu erlangen, ist die Aussage, dass sie nur die Intelligenz zeigen dürfen, mit der wir sie programmieren, da sie nur genau das können, worauf sie programmiert sind. Wenn dies wahr wäre, dann würden wir auch nicht erwarten, dass das relativ einfache Verhalten von Neuronen zu menschlicher Intelligenz führt. Soweit wir das beurteilen können, ist dies jedoch der Fall, und das Bewusstsein ist eine aufkommende Eigenschaft der neuronalen Verarbeitung. Ich bin sicher, Turing hätte gerne gesehen, was heute mit der Verwendung künstlicher neuronaler Netze möglich ist

mowwwalker
quelle
2
Vielen Dank für die Erwähnung der Entstehung. Sie geben meinem Pessimismus in Bezug auf KI durch Berechnungen etwas Optimismus .
Smwikipedia
9

Die Leute könnten annehmen, dass, wenn ich ein Programm schreibe und den Algorithmus vollständig verstehe und es keine Fehler gibt, ich wissen sollte, wie die Ausgabe dieses Programms aussehen würde und dass es mich nicht überraschen sollte.

Turing sagt (und ich stimme dem zu), dass dies nicht der Fall ist: Die Ausgabe kann überraschend sein. Die Lösung eines Problems mit Handlungsreisenden kann überraschend sein. Der beste Weg, einen Volladdierer aufzubauen, kann überraschend sein. Der beste Zug in einem Schachspiel kann überraschend sein.

gnasher729
quelle
Dies erklärt, warum Computer überraschen können, da dies die erste Hälfte des Zitats ist. Sie sprechen jedoch nicht den Teil des Zitats an, der erklärt, warum ein bestimmtes Argument, das Maschinen nicht überraschen können, trügerisch ist.
Diskrete Eidechse