Sollte ich bei der Diskussion über KI eine anthropomorphe Sprache verwenden?

Die englische Sprache ist nicht gut geeignet, um über künstliche Intelligenz zu sprechen, was es für Menschen schwierig macht, miteinander darüber zu kommunizieren, was eine KI tatsächlich "tut". Daher kann es sinnvoller sein, "menschenähnliche" Begriffe zu verwenden, um die Handlungen von Maschinen zu beschreiben, selbst wenn die inneren Eigenschaften der Maschinen nicht den inneren Eigenschaften der Menschheit ähneln.

Anthropomorphe Sprache wurde in der Technologie häufig verwendet (siehe die Hacker-Wörterbuch-Definition der Anthropomorphisierung , die versucht, die Verwendung anthromporhischer Begriffe durch Computerprogrammierer bei der Beschreibung von Technologie zu rechtfertigen), aber im Zuge der fortschreitenden KI kann es nützlich sein, die Kompromisse zu berücksichtigen Verwendung der anthropomorphen Sprache bei der Kommunikation sowohl mit dem technischen als auch mit dem nichttechnischen Publikum. Wie können wir die KI in den Griff bekommen, wenn wir nicht einmal beschreiben können, was wir tun?

Angenommen, ich möchte einen Algorithmus entwickeln, der eine Liste verwandter Artikel anzeigt. Es gibt zwei Möglichkeiten, wie ich einem Laien erklären kann, wie der Algorithmus funktioniert:

1. Sehr anthropomorph - Der Algorithmus liest alle Artikel auf einer Website und zeigt die Artikel an, die dem Artikel, den Sie betrachten, sehr ähnlich sind.
2. Sehr technisch - Der Algorithmus konvertiert jeden Artikel in einen "Wortbeutel" und vergleicht dann den "Wortbeutel" jedes Artikels, um festzustellen, welche Artikel die häufigsten Wörter gemeinsam haben. Die Artikel, die die meisten Wörter in den Taschen enthalten, werden dem Benutzer angezeigt.

Offensichtlich kann # 2 "technisch korrekter" sein als # 1. Durch die detaillierte Implementierung des Algorithmus wird es für jemanden einfacher zu verstehen, wie der Algorithmus repariert wird , wenn er eine Ausgabe erzeugt, mit der wir nicht einverstanden sind.

Aber # 1 ist lesbarer, eleganter und leichter zu verstehen. Es gibt einen allgemeinen Überblick darüber, was der Algorithmus tut, anstatt wie der Algorithmus es tut. Indem wir die Implementierungsdetails des "Lesens" des Artikels durch einen Computer abstrahieren, können wir uns auf die Verwendung des Algorithmus in realen Szenarien konzentrieren.

Sollte ich es daher vorziehen, die anthropomorphe Sprache zu verwenden, wie in Aussage 1 hervorgehoben? Wenn nicht, warum nicht?

PS: Wenn die Antwort von der Zielgruppe abhängt, mit der ich spreche (ein nicht technisches Publikum bevorzugt möglicherweise # 1, während ein technisches Publikum möglicherweise # 2 bevorzugt), lassen Sie es mich auch wissen.

Wenn Klarheit Ihr Ziel ist, sollten Sie versuchen, eine anthropomorphe Sprache zu vermeiden. Andernfalls besteht die Gefahr, dass Sie sich selbst über die Fähigkeiten des Programms irreführen .

Dies ist eine schädliche Falle in der KI-Forschung. In zahlreichen Fällen haben selbst erfahrene Forscher einem Programm ein höheres Maß an Verständnis zugeschrieben, als es tatsächlich verdient.

Douglas Hofstadter beschreibt das Thema ausführlich in einem Kapitel mit dem Titel "Der unausrottbare Eliza-Effekt und seine Gefahren", und es gibt auch ein berühmtes Papier von Drew McDermot mit dem Titel "Künstliche Intelligenz trifft natürliche Dummheit" .

Daher sollte man im Allgemeinen besondere Anstrengungen unternehmen, um Anthropomorphismus in der KI zu vermeiden. Wenn Sie jedoch mit einem nicht-technischen Publikum sprechen, sind Soundbite-Beschreibungen (wie in jeder komplexen Disziplin) akzeptabel, vorausgesetzt, Sie teilen dem Publikum mit, dass sie die vereinfachte Version erhalten .

Das Problem, auf das Sie sich beziehen, ist nicht nur ein KI-Problem, sondern ein Problem für hochtechnische Bereiche im Allgemeinen. Im Zweifelsfall würde ich immer die Verwendung von Klartext empfehlen .

Es gibt jedoch noch einen weiteren Grund, warum die KI-Community anthropomorphe Konnotationen für KI häufig meidet. Einige KI-Leuchten warnen uns oft, dass sich eine künstliche allgemeine Intelligenz auf fremde Weise verhält, die unseren menschlichen Erwartungen widerspricht und möglicherweise zu einer Roboterapokalypse führt.

Diese Vorstellung von bösen außerirdischen AGIs beruht jedoch auf einem weit verbreiteten Missverständnis in der KI-Gemeinschaft, das zwei verschiedene Vorstellungen von Allgemeinheit miteinander verbindet:

• Turing Maschinen allgemein und
• Allgemeinheit der menschlichen Domäne

Was normale Leute meinen, wenn sie Allgemeinheit sagen, ist das Spätere. Sogar die offizielle Definition von AGI hängt von diesem menschlich bedingten Kontext ab:

... jede intellektuelle Aufgabe ausführen, die ein Mensch kann.

Aber nach dieser Definition macht die Verallgemeinerung des Verhaltens es nicht fremder. Verallgemeinern heißt anthropomorphisieren. Wie Nietzche sagte,

"Wo Sie ideale Dinge sehen, sehe ich - menschlich, leider! Allzu menschliche Dinge."

Ich denke, die richtige Antwort ist die einfache, aber nicht hilfreiche: "Es kommt darauf an."

Selbst wenn ich mit anderen technischen Leuten spreche, verwende ich oft anthropomorphe Sprache und Metaphern. Besonders zu Beginn des Gesprächs. "Der Computer muss es herausfinden ..." "Wie können wir verhindern, dass der Computer verwirrt wird über ..." usw. Sicher, wir könnten das technisch korrekter sagen. "Wir müssen den Algorithmus modifizieren, um die Anzahl und Vielfalt von Instanzen unzureichender Daten zu verringern, die zu einer ungenauen Einstellung von ... führen" oder ähnliches. Aber unter Technikern wissen wir, was wir meinen, und es ist einfach einfacher, metaphorische Sprache zu verwenden.

Wenn ich versuche, technische Computerprobleme zu lösen, beginne ich oft mit einem vagen, anthropomorphen Konzept. "Wir sollten eine Liste aller Wörter im Text erstellen und jedem Wort eine Gewichtung zuweisen, die davon abhängt, wie häufig es vorkommt. Oh, aber wir sollten kurze, gebräuchliche Wörter wie 'the' und 'it' ignorieren. Dann lassen Sie uns einige auswählen Anzahl der Wörter, vielleicht zehn oder so, die das größte Gewicht haben ... "All das ist weit davon entfernt, wie der Computer tatsächlich Daten manipuliert. Aber es ist oft viel einfacher, zuerst "menschlich" darüber nachzudenken und dann herauszufinden, wie man den Computer dazu bringt, dies zu tun.

Wenn ich mit einem nicht-technischen Publikum spreche, denke ich, ist das Problem, dass die anthropomorphe Sprache das Verständnis erleichtert, aber oft den Eindruck erweckt, dass der Computer viel menschlicher ist als er wirklich ist. Sie müssen sich nur Science-Fiction-Filme ansehen, um zu sehen, dass anscheinend viele Leute denken, dass ein Computer oder ein Roboter genauso denkt wie eine Person, nur dass er sehr präzise ist und keine Emotionen hat.