...ich glaube LLM (Large Language Model) nennt man diese Art von KI, m.W. scheitert sie schon bei größeren Multiplikationen. Mittlerweile gibts aber auch Modelle für Mathe:
https://ki-techlab.de/ki-tools/mathgptpro/

Es ist ähnlich wie mit der Ehrlichkeit, dass sie einfach Sachen erfindet, wenn sie nicht weiter weiß. Es wurde ihr halt nicht antrainiert. Meines Wissens setzen die sich u.a. aus spezialisierten Modulen zusammen, sie bräuchte eines, dass ihre Aussagen mit der Realität abgleicht und ein anderes für mathematische Berechnungen.

Was sie kann, halte ich bereits für sehr beeindruckend, denn Sprache ist ein enorm schwieriger Brocken, wegen der Unregelmäßigkeiten und dem Kontext etc. aber aktuell in Entwicklung befindliche Modelle dürften noch weit mehr können (wenn man sie nicht absichtlich kastriert). Allein die Demos von "Text zu Video"-KIs wie "Sora" hauen einen aus den Socken:
https://www.youtube.com/watch?v=HK6y8DAPN_0
man stelle sich das kombiniert mit tausenden von anderen spezialisierten Modulen vor!

Zur Zeit haben sowas vielleicht die großen Geheimdienste (deshalb darf man auch keinem Video mit unbekannter Quelle mehr trauen), für uns werden noch einige Jahre vergehen, bis das in bezahlbarer und für jeden nutzbarer Form daherkommt.

Das ist DIE Technik der Stunde! Wer sich da reinkniet, kann das ganz große Geschäft machen, so wie mit Computer und Internet in den 90igern und 00er Jahren, so wie google, Microsoft und Apple.