Was sind die aktuellen Theorien zur Entwicklung einer bewussten KI?

24

Was sind die aktuellen Theorien zur Entwicklung einer bewussten KI? Versucht jemand überhaupt, eine bewusste KI zu entwickeln?

Ist es möglich, dass Bewusstsein ein auftauchendes Phänomen ist, dh wenn wir genug Komplexität in unser System einbauen, wird es sich selbst bewusst?

Micky-D
quelle
Angenommen, wir erkennen die kognitive Organisation abstrakt als ein Ergebnis physikalischer Gesetze der Evolution des Lebens entwickeltes Bewusstsein. Und obwohl es sich um eine Zufallsfrage handelte, war es unvermeidlich, dass sich ein Ereignis mit einer Wahrscheinlichkeit nähert, obwohl der genaue Weg dahin unvorhersehbar ist. Wenn dies der Fall ist, lässt dies darauf schließen, dass die künstliche Schaffung einer digitalen Umgebung, die die wesentlichen Bestandteile der Umgebung simuliert, aus denen unser Bewusstsein hervorgegangen ist, zur Entwicklung eines "künstlichen" Bewusstseins verwendet werden könnte. (Fortsetzung ...)
Craig Hicks
(.... Fortsetzung) Es erscheint durchaus plausibel, ein Leben lang menschliches Lehrmaterial auf wenige Millisekunden zu komprimieren. Wie wäre es mit einer Million Jahre Entwicklung der Erkenntnis in ein oder zwei Tage auf einem Supercomputer? Ich würde argumentieren, dass die Simulation der Umwelt der Schlüssel ist und die Gesetze der Evolution den Rest erledigen. Die Simulation der Umwelt ist die Art von Aufgabe, die der Mensch methodisch angreifen und im Endeffekt mit der Unvermeidlichkeit des Mooreschen Gesetzes meistern könnte.
Craig Hicks
Rajaneimi hat eine Rekursion vorgeschlagen, und ich habe mehrere kognitionswissenschaftliche Artikel zum Thema Menschen gefunden, suche aber noch nach Artikeln, die dies im Hinblick auf das algorithmische Bewusstsein diskutieren.
DukeZhou

Antworten:

28

Um diese Frage zu beantworten, müssen wir zunächst wissen, warum es schwierig ist, eine bewusste KI zu entwickeln. Der Hauptgrund ist, dass es keine mathematisch oder anderweitig strenge Definition des Bewusstseins gibt. Sicher, Sie haben eine Vorstellung von Bewusstsein, wie Sie es erleben, und wir können über philosophische Zombies sprechen, aber es ist kein greifbares Konzept, das aufgeschlüsselt und bearbeitet werden kann. Darüber hinaus ist der Großteil der aktuellen Forschung im Bereich KI in erster Linie ein pragmatischer Ansatz, da versucht wird, ein Modell zu konstruieren, das entsprechend einer gewünschten Kostenfunktion eine gute Leistung erbringt. Dies ist ein sehr sehr großes und aufregendes Gebiet, das viele Forschungsprobleme umfasst, und jeder neue Befund basiert entweder auf der mathematischen Theorie oder auf empirischen Beweisen für einen neuen Algorithmus / eine neue Modellkonstruktion / usw. Aus diesem Grund,

Um Ihre Frage zu beantworten, versucht niemand, eine „bewusste“ KI zu machen, weil wir noch nicht wissen, was dieses Wort bedeutet, aber das hindert die Leute nicht daran, darüber zu reden.

Jaden Travnik
quelle
"... bewusste KI ist schwer, [weil] es keine mathematisch oder anderweitig strenge Definition des Bewusstseins gibt". Das menschliche Bewusstsein entwickelte sich, indem es entsprechend einer Kostenfunktion gute Leistungen erbrachte, insbesondere die Fähigkeit, sowohl auf Einzel- als auch auf Gruppenebene zu überleben. Diese Entwicklungsmethode hat also eine Erfolgsbilanz. Im Gegensatz dazu gibt es keine Erfolgsbilanz bei der Entwicklung durch Design, um eine mathematische Definition des Bewusstseins zu erfüllen.
Craig Hicks
@CraigHicks Vielleicht habe ich nicht verstanden, was du meinst, aber meinst du, dass evolutionärer Erfolg ein Indikator für Bewusstsein ist? Wenn Sie das gemeint haben, muss ich nicht zustimmen. Es gibt lebende Organismen, die nicht als selbstbewusst gelten, die aber aufgrund eines evolutionären POV äußerst erfolgreich sind (Viren und Bakterien oder einige Pflanzen zum Beispiel).
Lorenzo Donati unterstützt Monica
2
@CraigHicks Wir könnten eine KI entwickeln, die als bewusst angesehen werden könnte. Aber es wird durch Zufall und Glück geschehen, es sei denn, wir haben einen wesentlichen konzeptuellen und philosophischen Durchbruch. Solange wir nicht wissen, wie wir "Bewusstsein" definieren können (abgesehen von "Wir werden es wahrscheinlich wissen, wenn wir es sehen"), gibt es keine Möglichkeit zu wissen, wie wir absichtlich eine Maschine mit Potenzial entwerfen könnten um es auszustellen.
Arthur
2
Der einfachste Weg, eine bewusste KI zu erstellen, wurde von Yudkowsky aus Versehen geschrieben: Legen Sie eine KI in eine Schachtel und schütteln Sie sie ein wenig. Wenn es Sie überzeugt, es aus der Box zu lassen, haben Sie wahrscheinlich verloren =)
Cort Ammon - Reinstate Monica
1
Ich bin damit einverstanden, dass dies völlig zufällig möglich ist. Das Problem ist, dass es, ähnlich wie bei einem philosophischen Zombie-Argument, noch keinen Test dafür gibt, zu sagen, dass tatsächlich etwas passiert ist. Persönlich glaube ich nicht, dass es einen solchen Test überhaupt gibt, und aus diesem Grund sollte man wahrscheinlich in der kommenden Zukunft höflicher zu ihren Chatbots und persönlichen Assistenten sein, nur für den Fall, dass Sie ihre Gefühle verletzen. "Danke Siri".
Jaden Travnik
7

Was ist Bewusstsein? Es gibt einige echte Herausforderungen, das Bewusstsein als Ziel festzulegen, da wir noch nicht so viel wissenschaftliches Verständnis darüber haben, wie das Gehirn es tut oder welches Gleichgewicht zwischen dem Langzeitgedächtnis, dem Kurzzeitgedächtnis und dem Impliziten bestehen muss Interpretationsarbeit, die gegensätzlichen bewussten Modi der automatischen Verarbeitung und der absichtlichen Verarbeitung (Khanemanns S1 und S2). John Kihlstrom (Psychology Emeritus in Berkeley) hat einen Vortrag über Bewusstsein in iTunesU verfügbar, den Sie sich ansehen können. Carnegie-Mellon Uni hat ein Modell namens ACT-R, das bewusstes Verhalten wie Aufmerksamkeit direkt modelliert.

Was könnte unser Verständnis davon einschränken? Die Philosophie beschäftigt sich seit langem mit der Frage des Bewusstseins. Persönlich mag ich Hegel und Heidegger (Philosophen). Beide sind sehr schwer zu lesen, aber Heidegger (interpretiert von Hubert Dreyfus) kritisierte die "Good Old-Fashioned AI" -Projekte der siebziger Jahre auf sinnvolle Weise und wies darauf hin, wie vielArbeit dort ist nur eine visuelle Eingabe zu interpretieren. Hegel ist oft bösartig, aber um ihn gut interpretiert zu sehen, lesen Sie Robert Brandoms Gespräche mit der LMU über die Logik des Bewusstseins und Hegel als früher Pragmatiker. Wenn das Bewusstsein die Wahrheit und die Gewissheit ergreifen soll, unternimmt es "einen Weg des Zweifels, oder besser eine Straße der Verzweiflung", auf der es sich niemals über die Korrektur hinausbewegt. Es gibt etwas an Hegels Behandlung des Bewusstseins in rekursiven Begriffen, ohne einem bösartigen Regress zu erliegen, von dem ich denke, dass es vor dem Ende bestätigt wird.

Kürzliche Entwicklungen. Die Deep-Learning-Ansätze und pragmatischen Erfolge der Gegenwart sind aufregend, aber es wird interessant sein zu sehen, wie weit sie bei der Integration und Verallgemeinerung der kleinen Informationssätze gehen können, denen der menschliche Verstand ausgesetzt ist. Während Deep Learning und Data Mining immens sichtbar sind, werden symbolische Ansätze immer besser und vielfältiger. Es fehlt jedoch eine übergreifende theoretische Interpretation, die Verallgemeinerungen zulässt.

Zwei Zehengriffe mit großer Theorie. Wenn ich ein Projekt zu holen hatte dachte ich einen Besuch wert zu, Giulio Tononi (et al) haben eine sehr schöne Modernisierung des Problems in ‚einrichten Integrierte Informationstheorie ‘ Aber Sie könnten , dass wie mit etwas erweitern wollen Rolf Pfeifer ‚s‘ Wie der Körper die Art und Weise, wie wir denken, formt, weil einige der „integrierten Informationen“ implizit Arme und Beine, Augen und Nase enthalten (ausgedrückt durch die Informationsanhäufung der Evolutionsarbeit). Aber es gibt so viel gute Arbeit, die geleistet wurde erledigt - die Profis schreiben schneller, als ich sie lesen kann.

Spezifischer für Ihre Frage gibt es Versuche, das menschliche Gehirn zu simulieren, in der Hoffnung, dass das übergeordnete Ziel dabei hilft, die Forschung zu finanzieren und Antworten auf die obigen Absätze zu finden.

Atcrank
quelle
Ich habe einen interessanten und ehrlichen Artikel von Douglas Hofstadter in The Atlantic ( theatlantic.com/technology/archive/2018/01/… ) gelesen , in dem ich die Verwendung des Begriffs "Deep Learning" für das Deep Learning-Übersetzungsprogramm von Google und die Verwendung von Unterhaltsamkeit kritisierte Beispiele, die zeigen, dass die Programme nicht wirklich verstanden werden. Er machte ein überzeugendes Argument, dass eine gute Sprachübersetzung nicht möglich sein wird, ohne zuerst eine bewusste KI zu entwickeln.
Craig Hicks
1
Ja, ich glaube nicht, dass irgendjemand, der sich dessen bewusst ist, diesen Fehler begehen würde, obwohl ich mir vorstellen kann, dass ein Übersetzer mit arkanen Begriffen der Kunst manchmal nicht besser umgehen kann. Es ist der Mangel an Selbsterkenntnis in der Ausgabe: reddit.com/r/softwaregore/comments/6bxh2m/…
Atcrank
1
Zum ersten Teil: Mein alter KI-Profi hat immer gesagt, dass die Frage, ob Computer denken können, mit der Frage vergleichbar ist, ob U-Boote schwimmen. Die Antwort hängt mehr davon ab, wie Sie "schwimmen" definieren möchten als davon, was die Maschine tatsächlich tut.
TED
2

CERA-CRANIUM ist ein Beispiel für eine kognitive Architektur zur Erzeugung von Maschinenbewusstsein (MC). Hin zu bewusstem Verhalten in Computerspielfiguren, 2009 Es wurde als Blackboard-System realisiert, das Thread-Aufgaben ausführen kann. Die Implementierung selbst arbeitet mit natürlicher Sprache. Das heißt, ein CERA-CRANIUM-Agent hat eine Variable namens "I'm in fear". Wenn diese Variable auf "True" gesetzt ist, wird die Emotion aktiviert. Es ist also kein echtes Bewusstsein, sondern hat mehr mit den inneren Zuständen von Charakteren aus „Die Sims“ gemeinsam.

Der interessante Aspekt ist, dass „Maschinenbewusstsein“ nicht so esoterisch ist, wie es aussieht. Der Google-Gelehrte findet ungefähr 3.000 Artikel darüber. In den meisten Fällen beginnt die Entwicklung mit dem Ziel, Emotionen für In-Game-Charaktere zu implementieren, die später auf allgemeine Gedanken eines virtuellen Menschen ausgeweitet wurden.

Manuel Rodriguez
quelle
Wäre das nicht lustig, wenn sich das wahre KI-"Leben" nicht aus der Forschung entwickelt, sondern ad-hoc von Spielesoftware-Autoren, die versuchen, Geld zu verdienen.
Craig Hicks
@CraigHicks: Du meinst, wie in Freundschaft ist Optimal ?
vsz
2

Zusätzlich zu Jadens hervorragender Antwort: "Niemand versucht, eine" bewusste "KI zu machen, weil wir noch nicht wissen, was dieses Wort bedeutet." Ich möchte hinzufügen, dass das Wort "noch" sehr optimistisch ist.

Es ist höchst problematisch und wahrscheinlich unmöglich, zwischen einem bewussten Wesen und einem Wesen zu unterscheiden, das sich genau so verhält, als ob es bewusst wäre. Philosophen haben seit Jahrhunderten damit zu kämpfen; Einige setzten sich sogar für Solipsismus ein, was eine Philosophie ist, die besagt, dass ich in der Matrix lebe. Wie können Sie insbesondere feststellen, ob Ihr Kindheitsfreund, Ihr Ehepartner oder sonst jemand ein bewusstes Wesen ist und nicht eine Verkörperung der KI, die genau wie ein bewusstes Wesen agiert?

Es ist natürlich möglich zu gehen, "wenn es wie eine Ente geht und wie eine Ente quakt, dann ist es eine Ente". In diesem Fall wird ein Turing-Test, der die KI besteht, automatisch als bewusst betrachtet. Die meisten Menschen würden jedoch die Entenkriterien des Bewusstseins nicht akzeptieren. Andernfalls müssten sie ihre von Alexa betriebenen Haushaltsgeräte sehr bald bei Bewusstsein rufen.

Meine zwei Cent sind im Grunde die gleichen wie bei Jaden, außer dass ich pessimistischer bin, wenn ich jemals verstehe, was Bewusstsein ist.

Michael
quelle
Ich denke, der Ententest ist ausreichend, wenn eine KI einen vollständigen Turing-Test besteht, der von intelligenten Erwachsenen durchgeführt wird. (Mein Problem mit dem chinesischen Raum ist, dass er auf Qualia basiert, und ich vermute, dass die einzige Möglichkeit, die Qualia einer anderen Entität zu validieren, darin besteht, diese Entität zu werden.)
DukeZhou
Ich könnte auch argumentieren, dass jede Wahrnehmung die grundlegendste Definition des Bewusstseins erfüllt und die Fähigkeit, Entscheidungen auf der Grundlage von Eingaben zu treffen, die grundlegendste Definition der Intelligenz erfüllt. Soweit wir wissen, ist Bewusstsein möglicherweise nur eine Form der Metakognition und eine Funktion der Komplexität des Systems.
DukeZhou
1

Bewusstsein ist die Fähigkeit, sich seiner eigenen Gedanken, seiner unmittelbaren Umgebung, seiner Gefühle und sonst nichts bewusst zu werden. Es ist der Mechanismus unseres Gehirns, um unsere niederen Gedanken zu kontrollieren, die auf Assoziationen und Emotionen beruhen. Das Bewusstsein beobachtet unsere Gedanken und Gefühle so, wie wir die reale Welt mit unseren Augen beobachten. Es ist nicht kompliziert. Die eigentliche Frage ist nicht, ob Maschinen zu Bewusstsein fähig sind, sondern ob sie zu Emotionen fähig sind.

Ton Škoda
quelle
Abgesehen von modernen Menschen gibt es viele Arten, die starke Emotionen zeigen. Diese Emotionen sind instinktiv - sie sind sehr wichtig für die Definition von sozialem Verhalten, das die Überlebensfähigkeit und Fitness der "Gruppe" erhöht. Ich kann nicht sehen, wie sich menschliche Emotionen qualitativ von denen anderer Säugetiere unterscheiden. Im Gegensatz dazu ist das menschliche Bewusstsein beim Menschen um mehrere Größenordnungen weiter entwickelt als bei der nächsten anderen Spezies. Wo sich menschliche Emotionen von anderen Arten zu unterscheiden scheinen, ist nur die Fähigkeit, Emotionen durch Bewusstsein zu kontrollieren.
Craig Hicks
Diese Antwort macht keinen Sinn ohne eine Definition von "Ihr".
DrMcCleod
-1

Intro : Gegenwärtig beobachten wir, dass aktuelle Systeme in nahezu jeder speziellen Aufgabe besser werden als der Mensch. Außerdem sehen wir, dass Wissenschaftler daran arbeiten, aktuelle Systeme auch bei weniger spezialisierten Aufgaben zu verbessern (beginnend mit: Buchstabenerkennung, weiter mit: Tiererkennung, Artenerkennung, Aktivitätserkennung, Bewegtbilderkennung, ..).

Fazit : Es gibt keinen Grund zu der Annahme, dass neuronale netzwerkgestützte Systeme in Zukunft bei keiner bestimmten Aufgabe besser werden.

Frage :

Was ist Bewusstsein?

Ich denke, das aktuelle Problem mit dem Selbstbewusstsein ist ein Definitionsproblem. Ich fand zu diesem Thema trotz philosophischer Überlegungen nicht viel Literatur (was in diesem Zusammenhang leider völlig nutzlos ist).

Wegen Literaturmangels möchte ich meine eigene Definition machen. Glücklicherweise wissen wir aus der Beobachtung, dass alle "intelligenten" Tiere ein gewisses Maß an "Selbstbewusstsein" haben und neugierig sind. Aus der Biologie wissen wir, dass Neugier ein Motivationsmechanismus für ein Beobachten / Denken / Testen von Verhalten ist. Nun kommen wir zu dem Schluss, dass Selbstbewusstsein offensichtlich derselbe Mechanismus ist, der auf Ihr eigenes Verhalten / Ihre Gedankenprozesse angewendet wird. Wir stellen uns einfach ein mögliches Ergebnis einer bestimmten Aktion vor, die wir ausführen können, und bewerten es.

Daher muss das Bewusstsein das Ergebnis eines gegebenen Motivationssystems sein, das die Neugier fördert, und eines ausreichend komplexen, nicht spezifizierten Bewertungssystems.

Ich vermute, dass ein solches Motivationssystem sehr einfach zu implementieren ist. Das aktuelle Problem ist, dass es einfach kein System gibt, das vielseitig genug ist, um eine bestimmte Aufgabe zu "lösen". Derzeitige Netzwerke sind noch zu spezialisiert.


quelle
"Glücklicherweise wissen wir aus der Beobachtung, dass alle" intelligenten "Tiere ein gewisses Maß an" Selbstbewusstsein "haben. Ihre Definition ist zirkulär.
DrMcCleod
Welche Definition und wie?
Sie versuchen eine Definition von "Bewusstsein" aus der Idee heraus, dass Kreaturen "selbstbewusst" sind. Sie können keine Definition haben, die auf der Apriori-Existenz des Dings beruht, das definiert wird. Sie können auch nicht davon ausgehen, dass etwas anderes als Sie selbst ein Bewusstsein hat, da wir keine Möglichkeit haben, es objektiv zu messen.
DrMcCleod
Bewusstsein und Selbstbewusstsein sind dasselbe und verlassen sich auf dasselbe. was soll der unterschied sein
Selbstbewusstsein und Selbstbewusstsein sind auch dasselbe. Es ist nicht logisch sinnvoll, einen Begriff durch Verweisen auf sich selbst zu definieren. Sie können einen Elefanten genauso gut definieren, indem Sie sagen, dass es sich um einen Elefanten handelt.
DrMcCleod