Ein KI-Agent wird oft als "Sensor" -, "Speicher" -, "Prozessor für maschinelles Lernen" - und "Reaktions" -Komponenten angesehen. Eine Maschine mit diesen wird jedoch nicht unbedingt zu einem selbstprogrammierenden KI-Agenten. Gibt es neben den oben genannten Teilen noch weitere Elemente oder Details, die erforderlich sind, um eine Maschine zu einem selbstprogrammierenden KI-Agenten zu machen?
In einem Papier aus dem Jahr 2011 wurde beispielsweise erklärt, dass die Lösung des Optimierungsproblems der Maximierung der Intelligenz ein Muss für den Selbstprogrammierungsprozess ist, wie unten angegeben:
Ein System soll eine Instanz der Selbstprogrammierung ausführen, wenn es in Bezug auf ein Element seiner "kognitiven Infrastruktur" gelernt wird, wobei letztere als die unscharfe Menge von "nachrichtenkritischen" Merkmalen des Systems definiert wird. und die Intelligenzkritikalität eines Systemmerkmals wird als seine "Merkmalsqualität" definiert, die unter dem Gesichtspunkt der Lösung des Optimierungsproblems der Maximierung der Intelligenz eines Systems mit mehreren Merkmalen betrachtet wird.
Diese Beschreibung der "Optimierung der Intelligenz" ist jedoch vage. Kann jemand eine klare Definition oder bessere Zusammenfassung der notwendigen Komponenten für selbstprogrammierende Agenten geben?
Diese Frage stammt aus der Closed Beta 2014, wobei der Fragesteller eine UID von 23 hat.
quelle
Antworten:
Auf höchster Ebene müssen lediglich die verschiedenen bereits diskutierten Systeme Codeobjekte enthalten. Wenn es seinen Quellcode / seine Modellarchitektur anhand der ihnen zugrunde liegenden formatierten Textobjekte interpretieren kann, sie im Hinblick auf ein nützliches ML-Modell "verstehen" und den Code mit seiner Reaktion ändern kann, kann es sich selbst programmieren.
Das heißt, die grundlegende Schleife hinter einer rekursiv verbesserten Intelligenz ist einfach. Es prüft sich selbst, schreibt eine neue Version, und dann prüft sich diese neue Version selbst und schreibt eine neue Version und so weiter.
Die schwierige Komponente kommt auf niedrigeren Ebenen. Wir müssen kein neues Konzept wie "Sensor" erfinden. Wir müssen nur sehr, sehr hoch entwickelte Sensoren bauen, die der Aufgabe entsprechen, Code gut genug zu verstehen, um Verbesserungen zu erkennen und zu schreiben.
quelle