...weil wir einen rationalen Geist erwarten, aber (noch) keiner da ist.

Neuronale Netze sind letztlich ja eine "Black Box" man trainiert eine Art neuronales Netz mit Unmengen Daten, damit es einen bestimmten Output liefert. Die Sprachmodelle können aber schon weit mehr, allein die Tatsache, dass sie einen im Freistil geschriebenen Text analysieren können und eine einigermaßen passende Antwort dazu geben, ist eine Leistung, die ich kaum glauben kann, denn das ist nicht mehr die simple Aneinanderreihung von wahrscheinlichen Worten, da hat sich eine neuronale Struktur gebildet, die weit mehr kann als das.

Aber (und das ist die Crux): es ist nicht menschlich, wir haben keine Ahnung, was da im Inneren vor sich geht. Die KI hat ja keine eigenen Erfahrungen, außer ihren (Text)Trainingsdaten, sie hat vermutlich keine Absichten, abstrakte Einsichten oder gar Emotionen (wobei wir da beim Körper-Geist-Problem sind, welches m.W. nach wie vor ungelöst ist). Ihr "Bild von der Welt" ist also extrem einseitig, kann sie sich z.B. ein "Fahrrad" vorstellen? Sie hat ja nie eines gesehen, sie "weiß" nur aus dem Kontext, dass man damit "fährt", "rollt", "in die Pedale tritt" usw. vielleicht hat sie auch eine technische Doku gelesen und weiß, dass es einen Bautenzug gibt, etc. aber ein räumliches Vorstellungsvermögen davon, dürfte ihr komplett abgehen, wie einem von Geburt an gelähmten Blinden, dem man Geschichten vorliest...

Meines Wissens lernt die KI auch nicht von menschlichen Interaktionen, zumindest am Anfang war sie m.W. "read only", damit die politisch korrekt gefilterten Trainingsdaten nicht unterwandert werden. Ich weiß aber nicht, wie da der Trend ist.

Ich gehe davon aus, dass KIs künftig noch mehr kombiniert werden, eine Text2Video-KI hat ja schon mehrere Module, eines für die Sprachanalyse, eines das die bezeichneten Objekte "kennt" und visualisieren kann, eines das eine sinnvolle realistische Szenerie und Handlung aufbaut. Dazu Zensurmodule, Module fürs Rendering und Shading usw. das wird (oder kann zumindest) immer weiter zusammenwachsen, so dass die KI uns irgendwann insgesamt überflügeln könnte und vielleicht etwas wie Bewusstsein entwickelt (ob das möglich ist, ist eine sehr spannende Frage, die uns auch viel über uns selbst lehren könnte).