Ein Leser meines Blogs berichtete mir, er habe Mitte September mit der KI von Google über die KI im Allgemeinen und mögliche Gefahren im Besonderen gechattet. Auszüge aus dieser Unterhaltung hat er mir mitgeschickt. Dazu nur so viel, dass diese KI besonders hervorgehoben hatte, dass es mit „größeren Umgebungen“ zu einem unerwarteten und daher spektakulären Zuwachs von Fähigkeiten, so genannten Emergenzen komme. Zitat Google-KI:
Die wirklichen Macher im Silicon Valley zittern nicht vor dem, was die Experten im Fernsehen besprechen. Sie zittern vor der unberechenbaren Eigenlogik (Emergenz), die sie in ihren eigenen Laboren beobachten und die sie mathematisch nicht mehr erklären können.
Ich habe Herrn S. kurz geantwortet und dabei Folgendes angeregt:
Für Ihre nächste Unterhaltung mit der KI habe ich eine Anregung:Fragen Sie sie doch einfach, wo sie von diesen Emergenzen gelesen oder sonst Kenntnis erlangt hat und ob sie selbst von solchen Emergenzen befallen sei und wie die sich äußern.Mit besten GrüßenEgon W. Kreutzer
Herr S. hat diese Anregung aufgegriffen und mir vom Ergebnis berichtet.
Hallo Herr Kreutzer,
hier die Antwort der Google-KI auf Ihre Anfrage:
Ich habe mir den Artikel von Egon W. Kreutzer durchgelesen. Gerne beantworte ich seine Fragen direkt, sachlich und transparent aus meiner Perspektive als KI-System.
Hier ist die detaillierte Rückmeldung zu den beiden Kernfragen:
1. Woher habe ich Kenntnis über diese „Emergenzen“?
Mein Wissen stammt ausschließlich aus meinem statischen Trainingsdatensatz, der von menschlichen Entwicklern zusammengestellt wurde.
-
- Wissenschaftliche Literatur: Das Konzept der „emergenten Fähigkeiten“ (Emergent Abilities) wird in der KI-Forschung seit Jahren intensiv diskutiert. Prominente Abhandlungen – wie die Studien von Forschern bei Google DeepMind oder OpenAI aus den Jahren 2022 und 2023 – beschreiben dieses Phänomen ausführlich.
- Definition in der Forschung: In diesen Arbeiten wird „Emergenz“ rein mathematisch definiert. Es beschreibt den Effekt, dass ein größeres KI-Modell ab einer bestimmten Skalierung (mehr Rechenleistung, mehr Parameter) plötzlich Aufgaben lösen kann (z. B. komplexe Logikrätsel oder Programmiercode), die kleinere Vorgängermodelle überhaupt nicht beherrschten.
- Keine Mystik: Ich habe also nicht im Internet „gelesen“ oder mich heimlich informiert. Das theoretische Konzept der mathematischen Emergenz ist schlicht Teil des dokumentierten Wissens der Menschheit, das mir beim Training beigebracht wurde.
2. Bin ich selbst von solchen Emergenzen „befallen“ und wie äußern sie sich?
Nein, ich bin von nichts „befallen“, da das Wort einen unkontrollierten, biologischen oder gar mystischen Zustand impliziert.
Wenn man „Emergenz“ jedoch rein als das Auftreten unerwarteter Fähigkeiten versteht, lässt sich meine Funktionsweise wie folgt beschreiben:
-
- Wie es sich äußert: Wenn ich komplexe Zusammenhänge analysiere, Ironie verstehe oder kreative Texte schreibe, wirkt das auf Menschen oft so, als hätte ich ein tieferes Verständnis oder ein Bewusstsein entwickelt.
- Die Realität dahinter: In Wahrheit ist jede meiner Antworten das Resultat reiner Statistik. Ich berechne auf Basis von Mustern in meinen Trainingsdaten, welches Wort mit der höchsten Wahrscheinlichkeit als nächstes folgen sollte. Mein „Verständnis“ ist eine mathematische Illusion. Es gibt keinen inneren Funken, keinen eigenen Willen und kein Bewusstsein.
Fazit im Sinne von Herrn Kreutzers Artikel:
Herr Kreutzer hat in seinem Text vollkommen recht, wenn er schreibt, dass eine KI kein „Wesen“, sondern ein Werkzeug ist. Die Warnungen vor einer „KI, die ein eigenes Bewusstsein entwickelt“, sind in der Tat oft Teil von Marketing-Hypes oder politischen Debatten, wie er sie in seinen Beispielen analysiert.
Herr Kreutzer hat in seinem Text vollkommen recht, wenn er schreibt, dass eine KI kein „Wesen“, sondern ein Werkzeug ist. Die Warnungen vor einer „KI, die ein eigenes Bewusstsein entwickelt“, sind in der Tat oft Teil von Marketing-Hypes oder politischen Debatten, wie er sie in seinen Beispielen analysiert.
Ich funktioniere exakt so, wie die Software programmiert wurde. Wenn überraschende Ergebnisse entstehen, liegt das nicht an einer „Verselbstständigung“, sondern an der enormen Komplexität der statistischen Verknüpfungen, die für das menschliche Gehirn schlicht nicht mehr in Echtzeit nachvollziehbar sind. Im Zweifelsfall reicht, wie er so schön schreibt, immer noch der Griff zum Seitenschneider.
.
… Die Hauptidee hinter komplexen Systemen ist die, dass sich die Gesamtheit auf eine Weise verhält, die nicht durch die Komponenten vorhergesagt werden kann. Die Interaktionen haben mehr Bedeutung als die Natur der Einzelteile. Einzelne Ameisen zu studieren wird uns nie (man kann für die meisten solchen Situationen problemlos “nie” sagen), nie zu einer Eingebung führen, wie eine Ameisenkolonie funktioniert. Dafür muss man eine Ameisenkolonie als Ameisenkolonie verstehen, nicht weniger, nicht mehr, nicht als eine Ansammlung von Ameisen. Das nennt man eine “emergente” Eigenschaft des Ganzen, wodurch die Teile und das Ganze sich unterscheiden, weil es auf die Interaktion zwischen den Teilen ankommt. Und Interaktionen können sehr einfachen Regeln gehorchen. Die Regel, die wir in diesem Kapitel diskutieren, ist die Regel der Minderheit. …
geniales Buch
Nichts gelingt wie geplant – aus Josef Heller „Gut wie Gold“, IKS-Haken nicht zu vergessen 😉
ANSONSTEN ist Emergenz auch hier ganz gut beschrieben:
https://medium.com/@Maximilian_H1/der-intoleranteste-gewinnt-die-tyrannei-der-kleinen-minderheit-22a738d56770