Wir befinden uns in einer Zeit, in der wir erstmals ganz konkret mit den Auswirkungen künstlicher Intelligenz konfrontiert werden. In einem Artikel der Frankfurter Allgemeinen Zeitung vom 14. September 2026 lese ich von Jacob Coxon, einem KI-Forscher, der sowohl für OpenAI als auch für Anthropic gearbeitet hat und Anthropic inzwischen verlassen hat. Coxon warnt eindringlich vor der gegenwärtigen Entwicklung: Die Menschen, die diese Systeme entwickeln, hielten es ernsthaft für möglich, dass künstliche Intelligenz bis zum Ende dieses Jahrzehnts die Menschheit vernichten könnte.
Das ist eine bemerkenswerte Aussage. Aber wie realistisch ist dieses Szenario eigentlich? Um diese Frage beantworten zu können, lohnt sich zunächst ein Blick darauf, was wir heute überhaupt als künstliche Intelligenz bezeichnen – und woher diese Technologie kommt.
KI ist älter, als man denkt
Der Forschungsgegenstand künstliche Intelligenz ist keineswegs neu. Ein schönes Beispiel dafür ist die Programmiersprache Prolog, die Anfang der 1970er Jahre entwickelt wurde und zu den klassischen Sprachen der frühen KI-Forschung gehört. Der entscheidende Unterschied zu traditionellen Programmiersprachen besteht darin, dass man in Prolog nicht in erster Linie einen festen Programmablauf formuliert. Stattdessen definiert der Mensch Fakten und Regeln, und das System versucht anschließend, daraus logische Schlussfolgerungen abzuleiten.
Vereinfacht gesagt: Der Mensch sagt dem Computer, was gilt – und der Computer versucht daraus zu bestimmen, was daraus folgt. Das ist ein völlig anderes Prinzip als beispielsweise ein klassisches Programm, bei dem der Entwickler Schritt für Schritt festlegt, welche Anweisung als Nächstes ausgeführt werden soll. Diese Form der sogenannten symbolischen KI spielt bis heute eine Rolle, etwa bei regelbasierten Systemen, Wissensrepräsentationen oder Knowledge Graphs.
Die Nachbildung menschlicher Neuronen
Noch älter ist allerdings eine andere Idee: der Versuch, die Funktionsweise menschlicher Nervenzellen mathematisch nachzubilden. Bereits 1943 veröffentlichten Warren McCulloch und Walter Pitts ein mathematisches Modell eines künstlichen Neurons. Donald Hebb formulierte wenige Jahre später seine berühmte Lernregel, nach der sich Verbindungen zwischen Neuronen verstärken können, wenn diese gemeinsam aktiviert werden. Über Jahrzehnte wurden solche Modelle weiterentwickelt, ein entscheidender Schritt war schließlich die Entwicklung und praktische Nutzung von Verfahren, mit denen mehrschichtige neuronale Netze trainiert werden konnten – besonders wichtig wurde dabei die sogenannte Backpropagation.
Wie funktioniert nun ein künstliches Neuron? Nehmen wir ein stark vereinfachtes Beispiel: Ein System soll erkennen, ob auf einem Bild möglicherweise ein Apfel zu sehen ist. Es erhält verschiedene Informationen – ist das Objekt rund, ist es rot, hat es einen Stiel? Jedes dieser Merkmale wird mit einem bestimmten mathematischen Gewicht versehen, denn manche Informationen sind für die Entscheidung wichtiger als andere. Das künstliche Neuron berechnet vereinfacht eine gewichtete Summe seiner Eingaben: Eingabe 1 × Gewicht 1 + Eingabe 2 × Gewicht 2 + Eingabe 3 × Gewicht 3. Hinzu kommen weitere mathematische Bestandteile wie ein Schwellenwert beziehungsweise ein sogenannter Bias und eine Aktivierungsfunktion, und das Ergebnis wird anschließend weitergegeben.
Ein einzelnes solches künstliches Neuron ist ausgesprochen unspektakulär. Interessant wird die Sache dadurch, dass sehr viele solcher mathematischen Einheiten miteinander verbunden werden – aus einfachen mathematischen Operationen entstehen komplexe Strukturen.
Der Sprung zu modernen Sprachmodellen
Genau hier setzen auch moderne Sprachmodelle an. LLM bedeutet Large Language Model, gemeint sind damit die großen Sprachmodelle, die heute beispielsweise hinter ChatGPT, Claude, Gemini oder anderen KI-Systemen stehen. Auch diese Systeme bestehen letztlich aus sehr vielen mathematischen Operationen und erlernten Gewichtungen. Der entscheidende Unterschied zu frühen neuronalen Netzen liegt vor allem in ihrer Größe, ihrer Architektur, der verfügbaren Rechenleistung und der Menge an Daten, mit denen sie trainiert werden. Frühere neuronale Netze wurden häufig für sehr konkrete Aufgaben entwickelt – ein klassisches Beispiel wäre die Frage, ob eine handgeschriebene Ziffer eine „3“ oder eine „8“ darstellt. Moderne Sprachmodelle arbeiten dagegen mit Sprache in einem gewaltigen Maßstab.
Texte werden zunächst in kleinere Einheiten zerlegt, sogenannte Tokens. Diese Tokens werden mathematisch repräsentiert und anschließend durch sehr viele Verarbeitungsschichten geführt. Der entscheidende technische Durchbruch war die 2017 vorgestellte Transformer-Architektur. Ein zentraler Bestandteil davon ist das sogenannte Attention-Verfahren: Vereinfacht gesagt kann das Modell dadurch berücksichtigen, welche Bestandteile eines Textes für die Verarbeitung eines anderen Bestandteils besonders relevant sind.
Nehmen wir den Satz: „Der Hund jagte die Katze, weil sie weglief.“ Um den Satz zu verstehen, muss berücksichtigt werden, worauf sich das Wort „sie“ bezieht. Dafür reicht es nicht, Wörter lediglich nacheinander zu betrachten – entscheidend sind die Beziehungen innerhalb des gesamten Kontextes. Vereinfacht kann man sich die Verarbeitung daher so vorstellen: Text → Tokens → mathematische Repräsentationen → Kontextbeziehungen → viele Verarbeitungsschichten → Wahrscheinlichkeiten für mögliche Fortsetzungen.
Bekommt ein Sprachmodell beispielsweise den Satzanfang „Paris ist die Hauptstadt von …“ vorgelegt, ist „Frankreich“ mit sehr hoher Wahrscheinlichkeit eine passende Fortsetzung. Das klingt zunächst banal. Die eigentliche Leistung entsteht durch die gigantische Menge an Mustern, die ein solches Modell während seines Trainings verarbeitet hat: Sprache, Grammatik, Argumentationsstrukturen, Programmcode, wissenschaftliche Texte und zahllose andere Zusammenhänge. Ein modernes LLM ist deshalb nicht einfach eine Datenbank, in der fertige Antworten gespeichert liegen – es hat vielmehr mathematische Strukturen erlernt, aus denen es neue Ausgaben erzeugt.
Hier liegt auch ein interessanter Unterschied zu Prolog. Bei Prolog gibt der Mensch die Regeln vor und der Computer zieht daraus logische Schlüsse. Bei einem Sprachmodell gibt der Mensch nicht sämtliche Regeln vor – das System wird mit sehr großen Mengen von Beispielen trainiert und entwickelt daraus statistische Strukturen, anhand derer es anschließend neue Antworten erzeugen kann.
Der Angriff auf unser langsames Denken?
Damit kommen wir zu einem Punkt, der meines Erachtens gesellschaftlich wesentlich interessanter ist als die Vorstellung einer Armee von KI-Robotern: KI greift einen Bereich an, den wir bislang für ausgesprochen menschlich gehalten haben – unser rationales, planmäßiges Denken. Ein erheblicher Teil menschlicher intellektueller Tätigkeit besteht darin, vorhandenes Wissen zu finden, zu ordnen, miteinander zu verbinden und auf einen konkreten Sachverhalt anzuwenden. Genau darin werden KI-Systeme zunehmend schnell.
Früher musste man zunächst Bücher lesen, ein Studium absolvieren oder sich über Jahre spezialisieren, um bestimmte Informationen zuverlässig zusammentragen zu können. Ein Sprachmodell kann große Mengen dieses bereits vorhandenen Wissens innerhalb von Sekunden zugänglich machen. Ein hundertseitiges Dokument, das ein Mensch mühsam durcharbeiten muss, kann eine KI in kürzester Zeit strukturieren, durchsuchen und zusammenfassen. Programmierverfahren, mathematische Methoden, Argumentationsmuster oder Fachinformationen können beinahe unmittelbar bereitgestellt werden.
Das bedeutet allerdings nicht, dass das System damit allwissend oder unfehlbar wäre. Gerade Sprachmodelle arbeiten mit Wahrscheinlichkeiten und können deshalb plausibel klingende Aussagen erzeugen, die sachlich falsch sind – dieses Phänomen wird als Halluzination bezeichnet. Deshalb bleibt die Überprüfung von Ergebnissen notwendig.
Auch die gelegentlich zu hörende Aussage, eine KI könne grundsätzlich nichts Neues hervorbringen, halte ich für zu einfach. Sprachmodelle können durchaus neue Kombinationen bilden, Hypothesen formulieren, Lösungswege vorschlagen oder Strukturen erzeugen, die in genau dieser Form vorher nicht existiert haben. Die entscheidende Frage lautet aber: Woher wissen wir, ob das Ergebnis richtig ist? Die KI selbst besitzt dafür keinen privilegierten Zugang zur Wirklichkeit. Eine wissenschaftliche Hypothese wird nicht dadurch wahr, dass ein Sprachmodell sie formuliert – sie muss an der Realität überprüft werden. Und genau hier bleibt der Mensch entscheidend.
Dennoch müssen wir uns mit einer unangenehmen Tatsache auseinandersetzen: Bei der Geschwindigkeit des planmäßigen Erfassens und Verarbeitens vorhandenen Wissens sind wir diesen Systemen zunehmend unterlegen. Das wird unseren Alltag erheblich verändern. Es schafft Produktivität – aber gleichzeitig Abhängigkeit.
„Die KI wird uns alle töten“ – Panik oder Realität?
Vor diesem Hintergrund halte ich Weltuntergangsszenarien dennoch für problematisch. Das bedeutet nicht, dass künstliche Intelligenz ungefährlich wäre – im Gegenteil. KI kann vorhandene Fähigkeiten erheblich beschleunigen, und das gilt auch für gefährliche Fähigkeiten. Cyberangriffe lassen sich automatisieren, Informationen über biologische oder chemische Verfahren können schneller ausgewertet werden, Überwachungssysteme können leistungsfähiger werden, autonome Waffensysteme können mit KI-Komponenten ausgestattet werden.
Das eigentliche Risiko entsteht aber zunächst daraus, dass Menschen diese Fähigkeiten einsetzen. Auch ein hochentwickeltes Sprachmodell beschafft sich nicht allein deshalb Uran, weil es weiß, wie Kernphysik funktioniert. Es betreibt nicht automatisch ein biologisches Labor, nur weil es wissenschaftliche Literatur analysieren kann. Zwischen Wissen und realer Handlung liegen Ressourcen, Infrastruktur, Zugriffsmöglichkeiten und letztlich die Möglichkeit, Entscheidungen in der physischen Welt umzusetzen. Diese Grenze darf man nicht unterschätzen.
Allerdings verändert sie sich. Sobald KI-Systeme Zugriff auf Computer, Netzwerke, Maschinen, Finanzmittel oder andere Systeme erhalten, können ihnen Menschen zunehmend größere Handlungsspielräume übertragen. Die wichtige Frage lautet deshalb nicht, ob eine KI im philosophischen Sinne „einen eigenen Willen“ besitzt. Die wichtigere Frage lautet: Welche Handlungsmöglichkeiten geben wir ihr?
Unser Hang zur Vermenschlichung
Hinzu kommt ein psychologisches Phänomen: Menschen neigen dazu, technische Systeme zu vermenschlichen. Ein Sprachmodell formuliert einen freundlichen Satz und wir nehmen Freundlichkeit wahr. Es widerspricht uns und wir interpretieren darin Widerspruchsgeist. Es schlägt eine Handlung vor und wir sprechen davon, dass „die KI entschieden“ habe. Dabei wird schnell vergessen, dass wir es mit einem technischen System zu tun haben.
Besonders plastisch wird die Vorstellung, wenn künstliche Intelligenz mit Robotik und Kybernetik verbunden wird. Dann entsteht beinahe automatisch das Bild eines künstlichen Menschen – und von dort ist der gedankliche Weg zum Terminator nicht mehr weit. Aber Intelligenz, Bewusstsein, Emotion und Leben sind keineswegs dasselbe. Ein System kann hochkomplexe Informationen verarbeiten, ohne deshalb Emotionen zu besitzen. Es kann Handlungen auswählen, ohne einen menschlichen Willen zu haben. Und es kann menschenähnlich kommunizieren, ohne ein Mensch zu sein. Diese Unterscheidung halte ich für entscheidend.
KI-Systeme existieren gesellschaftlich vor allem durch unsere Interaktion mit ihnen. Auch soziale Netzwerke entfalten ihre enorme Wirkung nicht deshalb, weil Facebook, X oder TikTok eigene politische Überzeugungen hätten – sie entfalten sie, weil Milliarden Menschen diese Systeme verwenden und ihr Verhalten teilweise an deren Mechanismen anpassen. Bei künstlicher Intelligenz dürfte der Effekt noch größer werden.
Leitplanken sind notwendig
Regeln für die Nutzung von KI halte ich deshalb grundsätzlich für sinnvoll. Besonders offensichtlich ist das bei Deepfakes: Wenn künstlich erzeugtes Bild-, Video- oder Audiomaterial von echten Aufnahmen kaum noch unterschieden werden kann, muss für den Empfänger erkennbar sein, dass er es mit synthetischem Material zu tun hat. Das Gleiche kann bei automatisierter Kommunikation sinnvoll sein. Auch Anforderungen an Sicherheit, Datenschutz oder besonders risikoreiche Anwendungsbereiche sind notwendig.
Skeptischer bin ich allerdings bei dem Gedanken, technologische Weiterentwicklung selbst grundsätzlich verbieten zu können. Forschung lässt sich nur begrenzt an Landesgrenzen aufhalten, und gerade in der Informationstechnologie können vergleichsweise kleine Gruppen mit überschaubaren materiellen Ressourcen erhebliche Entwicklungen hervorbringen. Eine Gesellschaft kann Regeln für Anwendungen schaffen, Sicherheitsanforderungen definieren, bestimmte Nutzungen verbieten und Verantwortlichkeiten festlegen. Die Erkenntnissuche selbst lässt sich dagegen nur sehr begrenzt verbieten. Wissenschaft beschreibt zunächst, was ist und was möglich ist. Die Frage, was davon getan werden soll, ist eine gesellschaftliche und moralische Frage – und genau dort müssen wir ansetzen.
Die eigentliche Revolution findet auf dem Arbeitsmarkt statt
Für wesentlich konkreter als das Weltuntergangsszenario halte ich deshalb eine andere Entwicklung. Die industrielle Revolution hat körperliche Arbeit automatisiert: Maschinen konnten schneller weben, schwerere Lasten bewegen, präziser produzieren und länger arbeiten als Menschen. Davon waren zunächst vor allem Arbeiter betroffen, deren körperliche oder handwerkliche Tätigkeiten automatisiert werden konnten.
Die KI-Revolution trifft nun erstmals in großem Umfang die Denkarbeit. Juristen, Programmierer, Übersetzer, Journalisten, Sachbearbeiter, Ingenieure, Berater, Designer und viele andere Berufe werden erleben, dass Teile ihrer bisherigen Tätigkeit von Maschinen schneller erledigt werden können. Das bedeutet nicht zwangsläufig, dass diese Berufe verschwinden, aber ihre Tätigkeiten werden sich verändern. Und sehr wahrscheinlich werden für manche Leistungen künftig erheblich weniger Menschen benötigt. Gleichzeitig werden neue Tätigkeitsfelder entstehen, so wie dies auch bei früheren technologischen Umbrüchen geschehen ist. Der Übergang kann dennoch schmerzhaft werden – darauf müssen sich Politik, Wirtschaft und Gesellschaft vorbereiten.
Die entscheidenden Fragen der kommenden Jahre werden deshalb meines Erachtens weniger lauten: Wann erwacht die künstliche Intelligenz? Sondern: Wer verfügt über sie? Wer kontrolliert ihre Anwendung? Wer profitiert von ihrer Produktivität? Und was geschieht mit den Menschen, deren bisherige Arbeit dadurch wirtschaftlich an Wert verliert?
Ausblick
Ich halte deshalb weder grenzenlose KI-Euphorie noch apokalyptische Endzeitstimmung für angebracht. Künstliche Intelligenz ist eine außerordentlich mächtige Technologie. Sie wird unsere Art zu arbeiten, Informationen zu verarbeiten und Entscheidungen vorzubereiten tiefgreifend verändern. Sie kann Fähigkeiten demokratisieren, die bislang wenigen Spezialisten vorbehalten waren, sie kann Produktivität enorm erhöhen, sie kann Wissenschaft und technische Entwicklung beschleunigen. Sie kann aber ebenso Abhängigkeiten schaffen, Macht konzentrieren und gefährliche Fähigkeiten leichter verfügbar machen. All das rechtfertigt Wachsamkeit.
Die Vorstellung einer plötzlich erwachenden künstlichen Lebensform, die aus eigenem Antrieb beschließt, die Menschheit auszulöschen, halte ich dagegen weiterhin eher für Science-Fiction als für eine brauchbare Beschreibung der gegenwärtigen Risiken. Die tatsächliche Gefahr ist möglicherweise viel unspektakulärer: Wir schaffen Werkzeuge, die immer leistungsfähiger werden – und gewöhnen uns gleichzeitig daran, immer mehr Entscheidungen, Wissen und Fähigkeiten an diese Werkzeuge auszulagern.
Die entscheidende Frage lautet daher nicht, ob Maschinen irgendwann Menschen werden. Sondern ob Menschen noch verstehen und kontrollieren, was sie ihren Maschinen übertragen.