Künstliche Superintelligenz

Grundidee und Bedeutung

Künstliche Superintelligenz, englisch Artificial Superintelligence oder ASI, bezeichnet eine hypothetische Form der künstlichen Intelligenz. Sie soll sämtliche kognitiven Fähigkeiten des Menschen um ein Vielfaches übertreffen. Der Begriff hängt mit dem allgemeinen Problem zusammen, dass „Intelligenz“ selbst schwer eindeutig zu definieren ist. Trotzdem meint ASI im Kern eine KI, die nicht nur einzelne Aufgaben besser löst als Menschen, sondern menschliches Denken insgesamt übertrifft.

Eine solche Superintelligenz hätte nach der Beschreibung Problemlösungs- und Entscheidungsfähigkeit für hochkomplexe Fragen. Zusätzlich soll sie emotionale und soziale Intelligenz besitzen, also menschliche Gefühle und soziale Situationen tiefgehend verstehen können. ASI würde unabhängig von menschlicher Unterstützung arbeiten und die eigenen Ergebnisse so bewerten, dass daraus eine stetige Verbesserung ihrer Fähigkeiten entsteht. Dazu gehört auch die Fähigkeit, eigene Algorithmen autonom zu optimieren.

ASI würde Artificial General Intelligence (AGI), also eine allgemeine künstliche Intelligenz auf menschlichem Niveau, übertreffen. Sie könnte wissenschaftliche und technische Probleme schneller lösen als alles zuvor. Durch fortlaufendes Lernen würde sie sich nach jeder neuen Interaktion dynamisch anpassen. Außerdem hätte sie ein interdisziplinäres Potenzial: Sie könnte Wissen aus vielen Fachgebieten lösungsorientiert verbinden.

Idealerweise wären ethische Richtlinien und Sicherheitsprotokolle integriert, um Missbrauch vorzubeugen. Viele Fachleute warnen jedoch vor einer prinzipiellen Unkontrollierbarkeit solcher Systeme, gerade weil sie jede menschliche Intelligenz übertreffen würden. Regulatorisch wird auf Unterschiede hingewiesen: In Europa gilt seit 2024 die Verordnung zur künstlichen Intelligenz, während in den USA aktuell nicht mit staatlichen Regulierungen gerechnet wird und entsprechende Anstrengungen vorerst auf private Initiativen beschränkt bleiben.

Machbarkeit und heutige KI

Die Machbarkeit künstlicher Superintelligenz ist umstritten. Künstliche Intelligenz hat zwar rasche Fortschritte gemacht und menschliche Fähigkeiten in verschiedenen Benchmarks erreicht oder übertroffen. Gleichzeitig fehlen laut Artikel besonders im Bereich des komplexen Denkens noch viele Schritte, um nahe an menschliche Fähigkeiten heranzukommen oder sie zu übertreffen.

Die Idee von ASI wird als Potenzierung des AGI-Ansatzes diskutiert. In den letzten Jahren wurde sie durch Fortschritte in der KI-Technologie stärker beachtet. Der San Francisco Consensus wird als offener Zusammenschluss von Befürwortern genannt, die sich mit Fragen und Potenzialen der ASI beschäftigen. In solchen Kreisen werden weitreichende Veränderungen wissenschaftlicher Entdeckungen und sogar grundlegende Neudefinitionen menschlichen Zusammenlebens skizziert. Auch der frühere Google-CEO Eric Schmidt äußert sich dazu in Interviews. Besonders Vertreter des Transhumanismus sehen in ASI ein Zukunftskonzept, das zu ihren Ideen passt.

Wichtige aktuelle Entwicklungen betreffen Large Language Models (LLMs), also große Sprachmodelle, die auf der Transformer-Deep-Learning-Architektur beruhen. Beispiele im Artikel sind GPT-3, GPT-4, Claude 3.5 und andere Modelle. Sie haben bei verschiedenen Aufgaben erhebliche Verbesserungen gezeigt. Einige Forscher deuten diese Fähigkeiten so, dass sie der künstlichen allgemeinen Intelligenz nahekommen oder sogar Aspekte davon aufweisen.

Diese Behauptungen sind jedoch stark umstritten. Kritiker halten aktuelle LLMs trotz beeindruckender Leistungen weiterhin für weit entfernt von bewusstem Verständnis. Nach dieser Sicht sind sie vor allem ausgefeilte Mustererkennungssysteme. Ein im Juni 2025 veröffentlichtes Paper von Apple Research relativiert laut Artikel marketingorientierte Versprechen über die Fähigkeiten komplexen Denkens von Large Reasoning Models (LRMs).

Mögliche Entwicklungswege

Ein möglicher Weg zu ASI führt über AGI. Der Philosoph David Chalmers vertritt die Einschätzung, dass AGI ein wahrscheinlicher Weg zu ASI sein werde. Nach dieser Vorstellung kann KI zunächst eine Äquivalenz zur menschlichen Intelligenz erreichen, danach über diese hinaus erweitert und schließlich so verstärkt werden, dass sie Menschen bei beliebigen Aufgaben dominiert.

Der Artikel nennt mehrere mögliche technische Wege. Erstens könnte die Skalierung aktueller KI-Systeme eine Rolle spielen. Besonders bestehende Transformer-basierte Modelle könnten durch weitere Vergrößerung und Verbesserung zu AGI und möglicherweise zu ASI führen.

Zweitens könnten neuartige Architekturen notwendig sein. Solche Systeme könnten zum Beispiel von der Neurowissenschaft inspiriert sein, also von Erkenntnissen über biologische Gehirne und Nervensysteme.

Drittens werden hybride Systeme genannt. Damit ist die Kombination verschiedener KI-Ansätze gemeint, etwa symbolischer KI und neuronaler Netze. Symbolische KI arbeitet mit Regeln und expliziten Symbolen; neuronale Netze sind lernende Modelle, die Muster in Daten erkennen. Eine Verbindung beider Ansätze könnte möglicherweise robustere und leistungsfähigere Systeme hervorbringen.

Transformer und schnelle Skalierung

Ein besonderer diskutierter Weg zur ASI ist die weitere Skalierung und Verbesserung von Transformer-Modellen. Transformer sind KI-Architekturen, die besonders bei Sprachmodellen wichtig sind. Jüngste Fortschritte bei solchen Modellen haben Spekulationen verstärkt, dass der Weg zu ASI direkt über diese Architektur oder ähnliche Modelle führen könnte.

Diese optimistische Sicht geht davon aus, dass der Übergang von heutiger KI zu ASI kontinuierlicher und schneller verlaufen könnte als früher angenommen. Einige Experten argumentieren sogar, dass heutige große Sprachmodelle wie GPT-4 bereits frühe Anzeichen von AGI- oder ASI-Fähigkeiten zeigen könnten. Samuel Harris Altman, CEO von OpenAI, hält Superintelligenz laut Artikel in wenigen 1000 Tagen für möglich.

Gleichzeitig bleibt diese Sicht umstritten. Kritiker betonen, dass aktuelle Modelle zwar beeindruckend sind, aber entscheidende Merkmale allgemeiner Intelligenz vermissen lassen. Dazu zählen wahres Verständnis, zuverlässige Schlussfolgerungen, Anpassungsfähigkeit und die Lösung hochkomplexer Aufgaben über verschiedene Bereiche hinweg.

Offen bleibt daher, ob ASI über eine eigenständige AGI-Phase entstehen würde oder ob eine direktere Skalierung heutiger Technologien ausreichen könnte. Diese Debatte ist wichtig, weil sie beeinflusst, welche Strategien für KI-Entwicklung und Sicherheitsüberlegungen gewählt werden.

Rechentechnische Vorteile

Der Artikel nennt mehrere mögliche Vorteile künstlicher Systeme gegenüber biologischer Intelligenz. Ein zentraler Punkt ist Geschwindigkeit: Computerkomponenten arbeiten viel schneller als biologische Neuronen. Moderne Mikroprozessoren mit etwa 2 GHz sind sieben Größenordnungen schneller als Neuronen.

Ein weiterer Vorteil ist Skalierbarkeit. KI-Systeme könnten potenziell leichter in Größe und Rechenkapazität erweitert werden als biologische Gehirne. Auch Modularität spielt eine Rolle: Verschiedene Komponenten eines KI-Systems könnten unabhängig voneinander verbessert oder ersetzt werden.

Beim Speicher könnten KI-Systeme eine perfekte Erinnerung und riesige Wissensdatenbanken besitzen. Außerdem wären sie weniger eingeschränkt als Menschen, wenn es um das Arbeitsgedächtnis geht, also die kurzfristige Verarbeitung und Bereithaltung von Informationen.

Schließlich wird Multitasking genannt. KI kann mehr Aufgaben gleichzeitig ausführen, was für biologische Einheiten in dieser Form nicht möglich ist. Diese rechentechnischen Vorteile erklären, warum manche Befürworter annehmen, dass künstliche Systeme menschliche Fähigkeiten stark übertreffen könnten.

Kritik und Risiken

Trotz möglicher Vorteile gibt es erhebliche Herausforderungen und Unsicherheiten. Erstens wirft die Entwicklung von ASI ethische und sicherheitsbezogene Fragen auf. Es geht dabei um mögliche Risiken, Missbrauch und die Frage, ob ein solches System kontrollierbar bleibt.

Zweitens könnten die Rechenanforderungen für ASI weit über den heutigen Möglichkeiten liegen. Selbst wenn heutige KI-Systeme Fortschritte zeigen, ist damit nicht automatisch bewiesen, dass die nötigen Ressourcen und Verfahren für Superintelligenz erreichbar sind.

Drittens könnte es grundlegende Einschränkungen der Intelligenz geben, die für künstliche und biologische Systeme gleichermaßen gelten. Viertens sind der Weg zu ASI und ihre Folgen höchst ungewiss und schwer vorherzusagen.

Am 22. Oktober 2025 wurde ein „Statement on Superintelligence“ veröffentlicht. Darin wird ein Verbot der Entwicklung von Superintelligenz gefordert, das nicht aufgehoben werden soll, bevor es erstens einen breiten wissenschaftlichen Konsens gibt, dass sie sicher und kontrollierbar entwickelt werden kann, und zweitens eine starke öffentliche Zustimmung besteht. Dieses Statement wurde mit Stand 29.10.2025 von mehr als 50.000 international bekannten Proponenten unterzeichnet. Genannt werden unter anderem Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Steve Wozniak, Sir Richard Branson, Steve Bannon, Glenn Beck, Susan Rice, Mike Mullen und Joe Crowley.