Der Film "Der 200 Jahre Mann", mit Robin Williams in der Hauptrolle, hat dieses Thema vor Jahren schon einmal behandelt.
Grundtenor war hier eigentlich der Rückschritt hin zum Menschsein, die Freiheit, und die Frage nach dem "Woher kommen wir? Wer sind wir? usw." trat mit der Zeit in den Vordergrund, das "Er war stets gern zu Diensten" stand mehr und mehr hintan.
Um an die gleichen Rechte wie die Menschen zu gelangen, war die Maschine schlussendlich sogar bereit dafür zu sterben.
Das mag eine recht sentimentale Art sein die Sache zu behandeln, greift jedoch durchaus die Frage nach dem Sinn des Lebens auf und ob es Menschen im Umkehrschluss dienlich ist, mehr Maschine zu werden um dafür weniger (sterblicher) Mensch zu sein.
Im Gegensatz zu Affen haben Menschen eine komplexere Sozialstruktur, kein anderes Lebewesen kennt papierene Gesetze. Eine computergestützte Maschine (bzw. eher Millionen davon) einmal mit den richtigen Algorithmen gefüttert und entsprechender Macht ausgestattet, wäre durchaus in der Lage das Sozialverhalten der gesamten Erdbevölkerung nachhaltig positiv zu beeinflussen, da es im Gegensatz zu "fehlbaren" Menschen nicht mehr zu Gesetzesbrüchen käme.
Zu einer Entscheidung wie Angies Grenzöffnung 2015 wäre es so nie gekommen, das ist sicher.

Durchaus sinnig wäre es, den Maschinen Judikative und teils Exekutive zu übertragen und eine symbiotische Legislative aus mehreren global herrschenden Verfassungen zu stricken, um hernach die "human-singuläre" Legislative quasi fast ganz abzuschaffen und nur noch kleine Details unter Einbeziehung aller Völker zu ändern.

Rüstet man dagegen einzelne Menschen hoch bis sie Kampfrobotern gleichen, ist das der genau entgegengesetzte Weg dessen, was die (genetische) Evolution einst vorsah. Ich denke, den kranken Hirnen, insbesondere jenen aus den USA (irgendwie zieht dieses Land den sozialen Abschaum magisch an), schwebt genau das vor - und nichts anderes.
Ich glaube nicht, dass die Masse das so akzeptieren und sich eine Minderheit (ähnlich wie die "Zionisten" in Matrix) dagegen wehren wird.
Potential hat KI durchaus und sie wird auch kommen, fragt sich nur in welchen Grenzen. Es kommt wohl primär darauf an, wer im Vorfeld die entsprechenden Gesetze dazu auf die Bahn bringt.
Mit nahezu ausnahmslos allen jetzigen Staatenlenkern sehe ich in der Hinsicht eher schwarz, nicht nur bei einem Trump, Xi, Macron oder einer Merkel. Mit ihnen, respektive deren demokratisch nicht legitimierten Hintertanen, erwächst daraus eher ein weiterer WK als dass die Menschheit in Summe davon profitiert.

Man sieht bei der aktuellen Debatte um den Impfzwang, wie unterschiedlich und komplex das einzelne menschliche Hirn doch funktioniert, sei es primär durch reinen Instinkt (Was nicht zwangsweise eine rationale Entscheidung zur Folge haben muss) oder logischer Sachlichkeit gesteuert. Das alles in milliardenfacher Ausführung zu manipulieren, zu kontrollieren oder gar gänzlich abzuschalten wird auch mit KI und physischen Eingriffen nicht klappen, weil es eben nicht ausschließlich rein rational veranlagt ist.
Evolution basiert auf der Try-and-Error-Methode, nicht auf mathematischen Gesetzmäßigkeiten, ist also irrational und unlogisch, bisweilen auch chaotisch. Ein Computerprogramm kann das nicht abbilden, es ist ihm damit (noch) unterlegen, selbst wenn es nach einem Zufallsprinzip arbeitet, weil auch dieses Zufallsprinzip auf logischen Rechenoperationen beruht.

ORDO AB CHAO wird erst Realität, wenn ein Computer so viel Rechenleistung erbringen kann, dass damit die Funktion des ganzen Universums erklärt werden kann. Das käme der Wirklichwerdung einer imaginären Glaskugel gleich. Denkbar ist das, aber wie wahrscheinlich wäre es? Kamel -》 Nadelöhr.
Selbst wenn die hellsten Köpfe dieser Erde gleichzeitig ihre gesamten geistigen Kräfte bündelten und einzig für diese Sache arbeiten würden, hätten sie keinen Erfolg. Die restlichen 7,7 Mrd. würden die Arbeit eher behindern, als zum Erfolg beizutragen. Keine Chance! Es bleibt dabei: Noch ist der Mensch die Krone der Schöpfung, auch wenn er (zweifelsohne!) fehlbar ist.

--
◇◇◇ GENESEN - GELACHT - GELOCHT ◇◇◇