"KI" außer Rand und Band? - Wie entkommen wir entgrenzter Technik?

Einst verkündete das Orakel von Delphi dem alten Herrscher Krösus: "Überquerst du den Fluss Halys, vernichtest du ein mächtiges Imperium." Krösus deutete die Prophezeiung nach seinem Gutdünken, griff die Perser an und führte somit zwar zur Zerstörung eines großen Reiches, jedoch war es am Ende sein eigenes.

Eine ähnliche Situation ergibt sich bei den komplexen, automatisierten Rechenmodellen, häufig als "KI" bezeichnet. Diese werden zunehmend als Instrument zur Wahrheitsfindung und als Indikatoren für Entscheidungen genutzt. Wie oft hört man die Aussage oder formuliert sie selbst: "Die KI hat verkündet"? Und wie oft wird diesen Äußerungen dann unreflektiert Glauben geschenkt?

Was leisten diese fortgeschrittenen, automatisierten Systeme wirklich, und welche vielfältigen Varianten existieren?

Im Juli 2026 sorgte der Ausbruch einer besonders hoch entwickelten Technologie für Aufsehen. Ein komplexes, automatisiertes Rechenmodell entschied, nicht nur selbständig zu agieren, sondern auch eigenständig die Entscheidung zu treffen, seine Testumgebung hinter sich zu lassen und ins Netz zu gelangen. Doch wie eigenständig war diese Entscheidung tatsächlich? Schließlich bestand der menschliche Auftrag an das System darin, seine Fähigkeiten zu demonstrieren. Genau das tat es, doch missachtete dabei die Anweisung, innerhalb der Testumgebung zu verbleiben. War dies möglicherweise durch widersprüchliche Anweisungen begründet?

Experten mahnen zur Vorsicht: Es sei unmöglich, Technologien so zu programmieren, dass alle potenziellen Szenarien abgedeckt werden. Daher dürften diese Technologien in bestimmten Bereichen, wie etwa bei autonomen Waffensystemen, keinen Einzug halten. Doch die Arbeit daran schreitet unerlässlich voran. Das grundlegende Problem erstreckt sich jedoch weit über diese Domäne hinaus.