Wikipedia · einfach zusammengefasst · Stand
Technologische Singularität
Dazu zählt insbesondere die Rechenleistung von Computern, worauf Gordon Moore 1965 hinwies (Mooresches Gesetz). Seit etwa 1940 verdoppelt sich die für 1.000 …
Inhalt5 Abschnitte
Grundidee und Voraussetzungen
Die technologische Singularität bezeichnet verschiedene Theorien der Zukunftsforschung. Meist ist damit ein hypothetischer zukünftiger Zeitpunkt gemeint, an dem künstliche Intelligenz (KI) die menschliche Intelligenz übertrifft. Eine solche KI könnte sich rasant selbst verbessern und neue Erfindungen hervorbringen. Dadurch würde sich der technische Fortschritt irreversibel und so stark beschleunigen, dass die Zukunft der Menschheit nach diesem Ereignis nicht mehr vorhersehbar wäre. Die erste Superintelligenz, also eine KI mit den intellektuellen Fähigkeiten des Menschen weit überlegener Leistungsfähigkeit, wäre in diesem Modell die letzte Erfindung der Menschheit. Weitere Innovationen würden weitgehend unabhängig von Menschen durch Maschinen entwickelt.
Als Grundlage der Theorie gilt die Beobachtung, dass sich Technik und Wissenschaft zunehmend schneller entwickeln und viele messbare Größen, etwa Wissen, Wirtschaft und Rechenleistung, mindestens exponentiell wachsen. Gordon Moore wies 1965 auf die Entwicklung der Computerleistung hin; daraus entstand das Mooresche Gesetz. Seit etwa 1940 verdoppelte sich die für 1.000 US-Dollar erhältliche Rechenleistung in immer kürzeren Zeitabständen, zuletzt (Stand 2009 oder früher) etwa alle 18 Monate. Insgesamt stieg sie bisher um zwölf dezimale Größenordnungen.
Dem wird die weitgehend konstante Leistungsfähigkeit des menschlichen Gehirns bei bestimmten Fähigkeiten gegenübergestellt. Hans Moravec schätzte dessen Rechenleistung zunächst auf 100 Teraflops, Raymond Kurzweil auf 10.000 Teraflops. Supercomputer haben diese Werte bereits deutlich überschritten. Zum Vergleich wird eine Grafikkarte genannt: Sie erreichte im Juli 2019 bei einem Preis von 800 Euro 11 Teraflops und im Januar 2026 133 Teraflops.
Neben ausreichender Rechenleistung ist starke künstliche Intelligenz erforderlich. Sie muss nicht nur eine einzelne Aufgabe lösen, sondern sich allgemein geistig betätigen können. Eine starke KI, die über mehr Rechenleistung als das menschliche Gehirn verfügt, wird als Superintelligenz bezeichnet. Wenn sie sich selbst verbessert, könnte eine Intelligenzexplosion entstehen. Ihre kognitive Architektur wäre wahrscheinlich anders als die des Menschen; Gefühle wie Liebe, Hass, Angst oder Freude werden bei ihr nicht vorausgesetzt.
Entwicklung der Vorstellungen
Die erste bekannte Erwähnung des Konzepts stammt von Stanisław Ulam, der im Mai 1958 über ein Gespräch mit John von Neumann berichtete. Darin ging es um die ständige Beschleunigung des technischen Fortschritts und die Möglichkeit einer „entscheidenden Singularität in der Geschichte der Menschheit“, nach der die bisherigen Lebensverhältnisse nicht fortbestehen könnten.
1965 formulierte I. J. Good eine Definition, die der heutigen Bedeutung besonders nahekommt. Eine „ultraintelligente Maschine“ könne die intellektuellen Fähigkeiten jedes Menschen weit übertreffen. Da sie auch Maschinen bauen könne, die noch besser seien als sie selbst, entstünde eine explosionsartige Entwicklung der Intelligenz. Die erste ultraintelligente Maschine wäre deshalb die letzte Erfindung, die Menschen selbst machen müssten. Auch Alvin Tofflers wirtschaftliche Trendanalyse Future Shock von 1970 bezog sich auf die Singularität.
Vernor Vinge sprach seit den 1980er Jahren von einer Singularität und veröffentlichte seine Überlegungen 1993 im Artikel Technological Singularity. Er prognostizierte, dass innerhalb von 30 Jahren die technischen Mittel zur Schaffung übermenschlicher Intelligenz vorhanden sein könnten und „wenig später“ die Ära der Menschen beendet sei. Die übermenschliche Intelligenz könne sich unabhängig davon, ob sie durch KI oder kybernetisch erweiterte Menschen entstehe, weiter verbessern. Von ihr angetriebener Fortschritt würde deutlich schneller ablaufen.
Ray Kurzweil erklärte 2001 im Artikel The Law of Accelerating Returns das Mooresche Gesetz zu einem Spezialfall eines allgemeineren Gesetzes der technologischen Evolution. Exponentielles Wachstum werde sich auch bei Nachfolgetechnologien heutiger Mikroprozessoren fortsetzen und schließlich zu einem technischen Wandel führen, der „so schnell und allumfassend ist, dass er einen Bruch in der Struktur der Geschichte der Menschheit darstellt“. Populär wurde der Begriff durch Kurzweils Buch The Singularity Is Near: When Humans Transcend Biology von 2005. Kurzweil schätzt den Zeitpunkt der Singularität auf das Jahr 2045. Solche Prognosen wurden von Zukunftsforschern jedoch mehrfach um Jahrzehnte nach hinten verschoben; außerdem könnte das Ereignis selbst für die Beteiligten überraschend eintreten.
Mögliche Technologien
Als wahrscheinlichstes Szenario gilt für viele Anhänger eine Seed AI. Das ist eine künstliche Intelligenz, die sich selbst verbessern kann. Eine weitere häufig genannte Möglichkeit ist die molekulare Nanotechnologie. Sie wird von vielen Singularitätsanhängern als besonders große Gefahr betrachtet, unter anderem wegen des Szenarios Grey Goo, bei dem sich selbst vervielfältigende Nanomaschinen außer Kontrolle verbreiten könnten. Einige fordern daher, molekulare Nanotechnologie erst nach dem Auftreten einer Seed AI einzusetzen. Das Foresight Institute hält dagegen einen verantwortungsvollen Einsatz bereits vor der Singularität für möglich.
Direkte Gehirn-Computer-Schnittstellen gehören zur Augmented Intelligence. Sie könnten Gedächtnis, Wissen oder Rechenkapazität des menschlichen Gehirns erweitern. In diesen Bereich fallen außerdem Sprach- und Handschrifterkennung, leistungssteigernde Medikamente sowie gentechnische Methoden.
Beim Mind Uploading würde nicht künstliche Intelligenz direkt programmiert, sondern der Aufbau eines menschlichen Gehirns durch einen Scan in einen Computer übertragen. Die erforderliche Scannerauflösung, Rechenleistung und Kenntnis des Gehirns machen dieses Verfahren in der Präsingularitätszeit jedoch eher unwahrscheinlich. Eine weitere Möglichkeit ist Schwarmintelligenz: Intelligentes Verhalten könnte aus einem ausreichend komplexen Computernetzwerk emergieren, also aus dem Zusammenspiel vieler Einheiten entstehen.
Quantencomputer könnten, falls sie auf viele Qubits skalierbar sind, eine immense Leistungsfähigkeit erreichen. Ihre Programmierung ist jedoch schwierig, weil jede Operation alle 2^{n} überlagerten Zustände betrifft und der Rechenweg nicht verfolgt werden kann. Erst am Ende, nach dem Kollaps der Wellenfunktion, entstehen n Bits als Ergebnis. Michael Nielsen vermutete deshalb, dass erst künstliche Intelligenzen nach der Singularität Quantencomputer sinnvoll nutzen könnten. Dadurch könnte eine zweite Singularität entstehen, bei der auf Quantencomputern ausgeführte Intelligenzen für ihre Entwickler ebenso unverständlich wären wie klassische KI für Menschen.
Erwartete Folgen und wirtschaftliche Aspekte
Vertreter der Hypothese gehen davon aus, dass die Singularität den menschlichen Erfahrungshorizont begrenzt. Eine Superintelligenz könnte die Wirklichkeit auf eine Weise verstehen, die menschliche Vorstellungskraft übersteigt. Die Evolution würde sich dann möglicherweise aus dem biologischen in den technischen Bereich verlagern.
Viele transhumanistische Befürworter sehen die Singularität als zwangsläufigen Endpunkt der Evolution und hoffen auf übermenschliche Wesen, eine Antwort auf den Sinn des Lebens oder ein lebenswerteres Universum. Sie erwarten teilweise auch eine deutlich höhere Lebenserwartung oder sogar biologische Unsterblichkeit. Nach Ray Kurzweil werde die Veränderung in verschiedenen Lebensbereichen in den 2040er Jahren so schnell, dass Menschen ihr ohne intelligente Technologien zur Steigerung der eigenen Intelligenz nicht mehr folgen könnten. Schließlich könne die Singularität alle Lebensbereiche betreffen und der Menschheit ermöglichen, ihre physischen Bedürfnisse vollständig zu befriedigen.
Kritiker befürchten dagegen, dass eine überlegene Intelligenz nicht automatisch friedfertig sei und die Menschheit mühelos ausrotten könnte. Das Problem, wie eine Superintelligenz selbstständig ethische Ziele und Werte bestimmen soll, wird als Wertgebungsproblem bezeichnet. Nach Kartik Gada könnten schon in den Jahren vor der Singularität deflationäre Wirkungen durch exponentiellen technischen Fortschritt auftreten. Zentralbanken sollten deshalb möglicherweise ein Grundeinkommen einführen, um ihre Inflationsziele zu erreichen.
Kritik, Organisationen und Vertreter
Ein zentraler Kritikpunkt betrifft die wissenschaftliche Grundlage. Das Mooresche Gesetz werde möglicherweise unzulässig in die Zukunft fortgeschrieben, obwohl die Verkleinerung von Computerschaltkreisen physikalisch begrenzt ist. Außerdem handele es sich bei vielen Leistungsangaben um theoretische Höchstwerte. Die Speicherbandbreite wachse deutlich langsamer; dieses Problem wird als Memory Wall bezeichnet. Beim menschlichen Gehirn sind Speicherung und Verarbeitung nicht getrennt wie bei herkömmlichen Computern. Zwar ahmen Perzeptrons, also einfache neuronale Netze, Wahrnehmungsprozesse mit wenigen Nervenzellen nach, doch Projekte wie das Human Brain Project zielten auf die Simulation eines vollständigen Gehirns.
Lange Zeit stagnierte außerdem die Forschung an starker KI. Nach jahrzehntelanger Forschung blieb ein Durchbruch aus, während sich das wirtschaftliche Interesse seit den 1970er Jahren stärker auf schwache KI, also hochspezialisierte Problemlöser für einzelne Aufgaben, richtete. Jordan Pollack erklärte, das Mooresche Gesetz gelte nicht automatisch für Softwareentwicklung. Dieser Einwand wurde durch Fortschritte wie DeepMinds Go-Sieg gegen Lee Sedol und die Entwicklung großer Sprachmodelle abgeschwächt. Weitere Kritik besagt, dass die Singularität nichts Einmaliges sei, weil es in der Menschheitsgeschichte bereits mehrfach Entwicklungen gab, die früher unvorstellbar gewesen wären. Ken MacLeod und Jaron Lanier sehen in ihr zudem eine technische Neuauflage religiöser Vorstellungen von der Vollendung der Welt; Thomas Wagner deutet sie als Wunsch nach Gottwerdung des Menschen.
Zu den mit dem Thema verbundenen Organisationen zählen das von Eliezer Yudkowsky, Brian Atkins und Sabine Atkins gegründete Machine Intelligence Research Institute, das „freundliche“ KI erforscht, die Acceleration Studies Foundation, das Future of Humanity Institute der Oxford University sowie die 2008 von Ray Kurzweil und Peter Diamandis gegründete Singularity University, die seit 2013 als kommerzielle Bildungseinrichtung Singularity Education Group besteht. Sascha Dickel bewertete Mitgliederzahl und Forschungsaktivitäten dieser Institute als „faktisch vernachlässigbar“. Prominente Vertreter sind unter anderem Nick Bostrom, Damien Broderick, Ben Goertzel, John Smart, Raymond Kurzweil, Marvin Minsky, Hans Moravec und Vernor Vinge.