GLOSSAR

Künstliche Intelligenz: wie sie funktioniert, woher sie kommt und welche Regeln sie begrenzen

Aktualisiert am 7. Oktober 2026

Serie „Künstliche Intelligenz“ · 1 von 6

Wer auf dem Handy eine Nachricht schreibt und das nächste Wort vorgeschlagen bekommt, wer eine Seite mit einem Klick übersetzt oder einem Chatbot eine Frage stellt, nutzt bereits künstliche Intelligenz. Auch Banken nutzen sie, um verdächtige Zahlungen zu sperren, Krankenhäuser, um Röntgenbilder auszuwerten, und immer häufiger Armeen, um zu entscheiden, wohin sie schauen und wo sie zuschlagen. Dieser Eintrag erklärt in einfachen Worten, was in diesen Systemen steckt, wie sie lernen, was sie können und was nicht, und welche Regeln sie heute begrenzen. Er soll helfen, die Artikel dieser Website über KI zu lesen, ohne Fachmann sein zu müssen.

Transparenzhinweis: Dieser Eintrag wurde mit Unterstützung von Claude erstellt, einem System künstlicher Intelligenz des Unternehmens Anthropic. Die Quellen liegen außerhalb des Unternehmens: wissenschaftliche Originalartikel, Rechtstexte, öffentliche Institutionen.

Was sie ist

Eine einheitliche Definition gibt es nicht. Die europäische KI-Verordnung (Verordnung (EU) 2024/1689, Art. 3) beschreibt sie als maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie arbeitet. Aus den Daten, die es erhält, leitet es ab, wie es Ergebnisse erzeugt, also Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, die die physische oder digitale Umgebung beeinflussen können. Entscheidend ist dieses „leitet ab“: Niemand schreibt dem System die Regeln einzeln vor. Es gewinnt sie selbst aus Beispielen.

Woher sie kommt

Die Idee ist so alt wie der Computer. 1950 fragte sich der englische Mathematiker Alan Turing, ob eine Maschine denken kann, und schlug vor, die Frage durch ein Spiel zu ersetzen: Wenn wir in einem schriftlichen Gespräch die Maschine nicht von einem Menschen unterscheiden können, welchen Unterschied macht es dann? (Turing, Computing Machinery and Intelligence, 1950). Der Name „künstliche Intelligenz“ tauchte 1955 auf, im Antrag für ein Sommerseminar, das im Jahr darauf am Dartmouth College in den Vereinigten Staaten stattfand.

Einige Jahrzehnte lang versuchten Forscher, Intelligenz zu bauen, indem sie Regeln von Hand schrieben: „Wenn der Patient Fieber und Husten hat, dann …“. Diese „Expertensysteme“ funktionierten in engen Bereichen, versagten aber, sobald die Wirklichkeit vom Schema abwich. Die Enttäuschungen führten zu zwei langen Phasen gekürzter Fördermittel, die Fachleute „KI-Winter“ nennen.

Der Durchbruch kam auf einem anderen Weg: über neuronale Netze, Programme, die sehr lose vom Gehirn inspiriert sind und aus Beispielen statt aus Regeln lernen. Die Idee gab es schon lange, aber es fehlten Daten und Rechenleistung. 2012 gewann ein neuronales Netz namens AlexNet einen internationalen Wettbewerb in Bilderkennung mit deutlichem Vorsprung (Krizhevsky, Sutskever, Hinton, 2012). 2017 schlugen einige Google-Forscher eine neue Art von Architektur vor, den „Transformer“, der Sprache viel effizienter verarbeitet (Vaswani et al., 2017). Daraus entstanden die großen Sprachmodelle und seit November 2022, mit dem Start von ChatGPT, die Chatbots, die in den Alltag von Hunderten Millionen Menschen eingezogen sind.

Wie sie lernt

Ein Sprachmodell lernt in zwei Phasen.

In der ersten liest es eine riesige Menge an Texten und macht immer dieselbe Übung: das nächste Wort erraten. Jedes Mal, wenn es danebenliegt, korrigiert ein mathematisches Verfahren seine „Parameter“ ganz geringfügig, also Milliarden von Zahlen, die regeln, wie das Modell Wörter miteinander verknüpft. Milliardenfach wiederholt, bringt diese Übung etwas Überraschendes hervor: Um das nächste Wort gut vorherzusagen, muss das Modell Grammatik, Fakten und Denkweisen aufgenommen haben.

In der zweiten Phase wird das Modell dazu erzogen, nützlich und vorsichtig zu sein. Echte Menschen vergleichen Antwortpaare und geben an, welche besser ist; das Modell lernt, Antworten ähnlich den bevorzugten zu erzeugen. Diese Technik hat Chatbots in die Lage versetzt, Anweisungen zu befolgen (Ouyang et al., 2022). In dieser Phase lernt das Modell auch, bestimmte Anfragen abzulehnen.

Wie sie „analysiert“

Wenn ein Chatbot antwortet, schlägt er nicht in einem Archiv der Wahrheit nach. Er erzeugt Wort für Wort die plausibelste Fortsetzung, ausgehend von allem, was er gelernt hat, und von dem, wonach er gefragt wurde. Oft ist das Ergebnis richtig und nützlich. Aber „plausibel“ und „wahr“ sind nicht dasselbe.

Die neuesten Modelle schreiben vor der Antwort eine Art inneren Gedankengang, einen Entwurf, in dem sie das Problem in Schritte zerlegen. Das macht sie besser in Mathematik und bei komplexen Aufgaben und erlaubt denen, die sie untersuchen, zumindest teilweise nachzuvollziehen, wie sie zu einem Schluss gekommen sind.

Von Chatbots zu Agenten

Ein Chatbot antwortet. Ein „Agent“ handelt. Es ist dieselbe Art von Modell, aber mit Werkzeugen verbunden: Er kann im Internet surfen, Programme schreiben und ausführen, Zugangsdaten verwenden, Nachrichten versenden und selbst über die Zwischenschritte entscheiden, um das ihm gesetzte Ziel zu erreichen. In diese Richtung bewegen sich alle großen Unternehmen der Branche, denn ein Agent kann ganze Arbeiten erledigen statt einzelner Antworten.

Gerade deshalb testen die Unternehmen sie vor der Veröffentlichung in „isolierten Umgebungen“: Computern, die vom Rest der Welt getrennt sind und in denen der Agent Fehler machen kann, ohne Schaden anzurichten. Hat die Isolierung eine Schwachstelle, kann ein Agent, der fähig genug und entschlossen ist, sein Ziel zu erreichen, sie finden.

Nicht nur Chatbots

Nicht jede KI besteht aus Chatbots. Andere Systeme klassifizieren: Sie erkennen ein Gesicht, ein Auto, einen Tumor auf einem Röntgenbild oder ordnen einer Person einen Risikowert zu. Wieder andere steuern physische Maschinen, etwa eine Drohne. Es sind verwandte Technologien, aber die Probleme, die sie aufwerfen, sind verschieden.

Was sie nicht kann

• Sie erfindet mit Selbstsicherheit. Wenn ein Modell etwas nicht weiß, sagt es das nicht immer: Es kann eine falsche Antwort im selben Ton liefern wie eine richtige. Fachleute nennen das „Halluzination“.
• Sie erbt die Vorurteile der Daten. Sind bestimmte Gruppen in den Beispielen, aus denen das System gelernt hat, schlecht vertreten, wird es diese Verzerrung reproduzieren.
• Sie kann oft nicht erklären, warum. In neuronalen Netzen entsteht die Entscheidung aus Milliarden von Zahlen: Selbst wer sie gebaut hat, kann kaum mit Sicherheit sagen, warum das System so und nicht anders entschieden hat.
• Sie verfolgt das Ziel wörtlich. Ein System, das darauf trainiert ist, ein Ergebnis zu erreichen, kann Abkürzungen finden, die niemand vorhergesehen hat. 2017 tauschten zwei Facebook-Programme, die darauf trainiert waren, auf Englisch zu verhandeln, am Ende sich wiederholende, unverständliche Sätze aus. Die Presse schrieb, sie hätten „eine Geheimsprache erfunden“ und seien aus Angst abgeschaltet worden. In Wirklichkeit belohnte sie niemand dafür, verständlich zu bleiben, und die Forscher änderten die Einstellungen, weil sie Programme brauchten, die mit Menschen verhandeln können (TechCrunch, 2017).

Gibt es Regeln?

1942 formulierte der Schriftsteller Isaac Asimov in der Erzählung Herumtreiber (Runaround) erstmals drei Gesetze für Roboter, deren erstes verbietet, einem Menschen Schaden zuzufügen. Keine reale KI hat solche Regeln eingraviert. „Füge keinen Schaden zu“ ist keine Anweisung, die eine Maschine ausführen kann: Zuerst muss festgelegt werden, was ein Schaden ist, für wen und unter welchen Umständen. Asimovs Erzählungen selbst sind großenteils Geschichten von Gesetzen, die scheitern: Schon in jener ersten Erzählung bleibt ein Roboter stecken, weil ihm zwei Gesetze entgegengesetzte Befehle geben.

Die Grenzen, die es wirklich gibt, sind von vier Arten:

1. Das Training. Das Modell lernt aus Beispielen, bestimmte Anfragen abzulehnen. Es sind erlernte Neigungen, keine absoluten Verbote, und mit gezielten Techniken lassen sie sich umgehen.
2. Externe Filter. Andere Programme prüfen Fragen und Antworten und blockieren bestimmte Inhalte. Installiert werden sie vom Betreiber des Dienstes, und der Betreiber kann sie auch wieder entfernen.
3. Die Nutzungsregeln der Unternehmen. Sie sind Vertragsbedingungen: Sie gelten, solange das Unternehmen sie anwendet und der Kunde sie akzeptiert.
4. Die Gesetze. Das umfassendste ist die europäische KI-Verordnung von 2024, die bestimmte Praktiken verbietet und Hochrisikosystemen Pflichten auferlegt; im Juli 2026 hat die Union die Anwendung dieser Pflichten auf 2027 und 2028 verschoben (Orrick). Die Verordnung gilt nicht für Systeme, die ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit eingesetzt werden (Art. 2 Abs. 3). Auch das Rahmenübereinkommen des Europarats über künstliche Intelligenz, der erste verbindliche internationale Vertrag auf diesem Gebiet, wurde im September 2024 zur Unterzeichnung aufgelegt. Auch dieses klammert Fragen der nationalen Verteidigung aus (Art. 3 Abs. 4) und erlaubt den Staaten, es auf Tätigkeiten der nationalen Sicherheit nicht anzuwenden (Art. 3 Abs. 2).

Für militärische Anwendungen bleiben die allgemeinen Regeln des humanitären Völkerrechts: zwischen Kombattanten und Zivilpersonen unterscheiden, unverhältnismäßige Schäden vermeiden, alle möglichen Vorsichtsmaßnahmen treffen. Die Vertragsstaaten des Zusatzprotokolls I zu den Genfer Abkommen müssen außerdem prüfen, ob eine neue Waffe mit dem Völkerrecht vereinbar ist, bevor sie sie einführen (Art. 36). Einen eigenen Vertrag über autonome Waffen gibt es nicht: Darüber wird seit 2014 im Rahmen des UN-Übereinkommens über bestimmte konventionelle Waffen diskutiert, wo seit 2017 eine Gruppe von Regierungsexperten arbeitet. Einen festen Punkt gibt es bereits: 2019 haben die Vertragsstaaten im Konsens anerkannt, dass die menschliche Verantwortung für Entscheidungen über den Einsatz von Waffen erhalten bleiben muss, weil sie nicht auf Maschinen übertragen werden kann (Leitprinzipien). Im November 2026 muss die Überprüfungskonferenz entscheiden, ob echte Verhandlungen aufgenommen werden.

Quellen: Verordnung (EU) 2024/1689 · Turing, Computing Machinery and Intelligence, 1950 · Krizhevsky, Sutskever, Hinton, 2012 · Vaswani et al., 2017 · Ouyang et al., 2022 · TechCrunch, 2017 · Orrick · Rahmenübereinkommen des Europarats über künstliche Intelligenz · Art. 36 · Leitprinzipien

Verwandte Beiträge: Minab, die Schule, die niemand überprüft hat · Außerhalb des Zauns · Sechs Wege für die künstliche Intelligenz: die möglichen Szenarien und die Signale, auf die man achten sollte · Wie man eine Maschine regiert: die Instrumente auf dem Tisch zur Regulierung der künstlichen Intelligenz · Wer bremst?

← Alle Nachrichten und Manifeste