Widerspricht dieses Argument, das die Existenz von Superintelligenz widerlegt?

8

Eine Superintelligenz ist eine Maschine, die alle intellektuellen Aktivitäten eines Menschen übertreffen kann, und eine solche Maschine wird in der Science-Fiction oft als eine Maschine dargestellt, die die Menschheit zum Ende bringt.

Jede Maschine wird mit einem Algorithmus ausgeführt. Nach der Church-Turing-These kann jeder Algorithmus, der von einem modernen Computer ausgeführt werden kann, von einer Turing-Maschine ausgeführt werden. Ein Mensch kann jedoch leicht eine Turingmaschine simulieren. Bedeutet dies nicht, dass eine Maschine nicht alle intellektuellen Aktivitäten übertreffen kann, da wir auch den Algorithmus ausführen können?

Dieses Argument ist höchstwahrscheinlich fehlerhaft, da meine Intuition mir sagt, dass Superintelligenz möglich ist. Mir ist jedoch nicht klar, wo der Fehler liegt. Beachten Sie, dass dies mein eigenes Argument ist.

Wythagoras
quelle
1
Eine Turingmaschine kann jeden Algorithmus in unendlicher Zeit ausführen. Aber ein Mensch hat endliche Zeit. Sie können also nicht jeden Algorithmus mit Stift und Papier ausführen. Nichts hindert einen Agenten daran, seinen eigenen Algorithmus auszuführen (und diesen Algorithmus, der eine andere Instanz des Agenten ausführt), wenn auch mit einer langsameren Geschwindigkeit für jeden, da er seine Rechenressourcen verbraucht.
Conor Cosnett
Wie wäre es, den Menschen durch Simulation seiner Ausführung des Algorithmus zu "übertreffen"? Ich kompliziere die Dinge hier nicht nur absichtlich - Ihre Vorstellung von "Überschreitung" scheint ziemlich eng mit der Vorstellung von Simulation verbunden zu sein. Eine klarere Definition dessen, was Sie unter "übertreffen" verstehen, würde den Menschen wahrscheinlich helfen, die Frage besser zu beantworten.
NietzscheanAI

Antworten:

2

Ich glaube, dieses Argument basiert auf der Tatsache, dass Intelligenz eine einzige Dimension ist, wenn sie es wirklich nicht ist. Sind Maschinen und Menschen wirklich auf dem gleichen Niveau, wenn eine Maschine ein komplexes Problem in einem Millionstel der Zeit lösen kann, die ein Mensch kann?

Es wird auch davon ausgegangen, dass die Turing-Maschine immer noch das beste Rechenmodell für den Zeitraum ist, in dem Sie sich befinden. Dies gilt nicht unbedingt für die Zukunft, sondern nur bis zu diesem Zeitpunkt.

Ian
quelle
Was meinst du mit "Single Dimension"?
nbro
1

Ein Quantencomputer hat einen riesigen internen Zustand, den selbst die Maschine nicht direkt erreichen kann. (Sie können nur den Matrixzustand abtasten.) Der Betrag dieses Zustands steigt mit jedem im System beteiligten Quantenbit exponentiell an. Einige Operationen führen zu wahnsinnigen Beschleunigungen durch Quantencomputer: Sie führen den Quantendraht einfach durch ein Quantentor und aktualisieren die gesamte Matrix auf einmal.

Die Simulation eines Quantencomputers mit einem klassischen Computer würde für jedes Qubit exponentiell länger dauern. Mit mehreren Dutzend Qubits konnte die Rechenleistung der Maschine für einige Aufgaben nicht einmal von einem normalen Computer erreicht werden, geschweige denn von einem menschlichen Verstand.

Relevant: meine Antwort zu Inwieweit können Quantencomputer zur Entwicklung der künstlichen Intelligenz beitragen?

Beachten Sie, dass Sie mit Quantencomputern über die normalen Nullen und Einsen hinausgegangen sind. Sie benötigen dann eine Quanten-Turing-Maschine , die eine Verallgemeinerung der klassischen ist.

Ben N.
quelle
1
Die von Ihnen verknüpfte Quanten-Turing-Maschine ist nicht rechnerisch aussagekräftiger als eine herkömmliche TM - sie ist einfach (für einige Algorithmen) exponentiell schneller im Betrieb. Daher ist nicht klar, welche Relevanz dies für die Frage des OP hat.
NietzscheanAI
@ user217281728 Wie die akzeptierte Antwort zeige ich, dass ein Mensch eine Turing-Maschine nicht "einfach simulieren" kann; Ein Quantencomputer würde einen Menschen für diese Algorithmen absolut begeistern.
Ben N
1
Nun, die Frage könnte sicherlich viel Klarheit gebrauchen, aber der springende Punkt des Simulationskonzepts in CS ist, dass es nicht wichtig ist, wie lange die Simulation dauert, sondern lediglich, dass etwas funktional Äquivalentes erzeugt wird.
NietzscheanAI
Es hängt wirklich davon ab, ob "übertreffen" definiert ist als "intellektuell mehr können" UND "es schneller machen" oder nur das erstere.
NietzscheanAI
Was haben "exponentielle Beschleunigungen" mit Superintelligenz zu tun, die eine allgemeine Intelligenz ist? Sie können bestimmte Berechnungen sehr schnell durchführen und trotzdem sehr spezifisch sein.
nbro
0

Der Fehler in Ihrer Argumentation ist, dass "Überschreiten" nicht nur bedeutet, dass Sie alle Algorithmen ausführen können sollten, sondern auch einen Begriff der Komplexität enthält, dh wie viele Zeitschritte Sie zur Simulation eines Algorithmus benötigen.

Wie simuliert man einen Algorithmus mit einer Turingmaschine? Eine Turingmaschine besteht aus einer endlichen Zustandsmaschine und einem unendlichen Band. Eine Turingmaschine führt zwar einen Algorithmus aus, der durch ihren Anfangszustand und die Zustandsübergangsmatrix bestimmt wird, aber ich denke, Sie sprechen von Universal Turing Machines (UTM), die "Code" lesen können (was normalerweise eine Beschreibung einer anderen Turingmaschine ist) ) auf ein "Codesegment" des Bandes geschrieben und dann diese Maschine anhand von Eingabedaten simuliert, die auf das "Datensegment" des Bandes geschrieben wurden.

Turing-Maschinen können sich in der Anzahl der Zustände in ihren endlichen Zustandsmaschinen unterscheiden (und auch in dem Alphabet, das sie auf das Band schreiben, aber jedes endliche Alphabet kann leicht binär codiert werden, so dass dies nicht der große Grund für Unterschiede zwischen Turing-Maschinen sein sollte). Sie können also UTMs mit größeren Zustandsautomaten und UTMs mit kleineren Zustandsautomaten verwenden. Die größere UTM könnte möglicherweise die kleinere übertreffen, wenn sie dieselbe Codierung für den "Code" -Teil des Bandes verwenden.

Sie können auch mit dem Code herumspielen, der zur Beschreibung des zu simulierenden TM verwendet wird. Dieser Code kann beispielsweise C ++ oder ein neuronales Netzwerk sein, dessen Synapsenstärke als Matrix angegeben ist. Welche Beschreibung für die Berechnung besser ist, hängt vom Problem ab.

Ein Beispielvergleich zwischen UTMs mit unterschiedlichen Zustandsautomaten: Berücksichtigen Sie unterschiedliche Compiler für dieselbe Sprache, z. B. C ++. Beide kompilieren zuerst C ++ zur Assembly und führen dann eine andere UTM aus, die die Assembly liest und ausführt (Ihre physische CPU). Ein besserer Compiler führt also denselben Code schneller aus.

Zurück zu Menschen gegen Computer, Menschen sind neuronale Netze, die Algorithmen ausführen, wie Sie sie in C ++ schreiben würden. Dies beinhaltet eine kostspielige und ineffiziente Umwandlung des Algorithmus in Handbewegungen. Ein Computer verwendet einen Compiler, um C ++ in eine Assembly zu konvertieren, die nativ ausgeführt werden kann, sodass C ++ - Code wesentlich effizienter implementiert werden kann. Alternativ haben Menschen eine Menge Neuronen, und der neuronale Code, dh die Synapsenstärke, ist schwer zu lesen, sodass aktuelle Computer diesen Code noch nicht ausführen können.

Hart
quelle
Wir wissen nicht wirklich, wie nahe ein Modell einer ANN an der Funktionsweise des menschlichen Gehirns liegt. Nach allem, was wir wissen, könnten Penrose-Quantenmikrotubuli erforderlich sein ...
NietzscheanAI
@ user217281728 Während das, was Sie sagen, wahr ist, denke ich, dass Sie die neurowissenschaftliche Forschung unterbieten. Das McCullogh-Pitts-Neuron ist ein relativ gutes Modell für Neuronen, und wir verstehen einiges (auf verschiedenen Skalen) darüber, wie Neuronen funktionieren, wie Nervenbündel funktionieren und wie Informationen in einigen Gehirnregionen fließen. Auf jeden Fall ist meine Antwort ein Versuch, einem Nicht-Experten die Unterschiede zwischen verschiedenen Rechenmodellen zu erklären
Harsh
OK, ich weiß jetzt zu schätzen, dass Sie ein vereinfachtes Bild malen wollten.
NietzscheanAI