Rainer Mühlhoff

Person und akademischer Weg

Rainer Mühlhoff (* 1982 in Remscheid) ist ein deutscher Philosoph und Mathematiker sowie Professor für Ethik der Künstlichen Intelligenz an der Universität Osnabrück. Seine Arbeit verbindet Fragen der Philosophie mit digitalen Technologien und KI.

Er studierte Mathematik, Theoretische Physik und Informatik in Heidelberg, Münster und Leipzig und schloss 2008 mit einem Diplom ab. Anschließend studierte er Philosophie, Gender Studies und Deutsche Literatur in Berlin. 2016 promovierte er im Fach Philosophie mit einer von Jan Slaby und Martin Saar betreuten Dissertation zur Affekttheorie nach Spinoza und Foucault. Nach Tätigkeiten an der Freien Universität Berlin und an der Technischen Universität Berlin wurde er 2021 Professor am Institut für Kognitionswissenschaft der Universität Osnabrück. Er ist der erste Professor in Deutschland mit der Denomination „Ethik der Künstlichen Intelligenz“.

2020 war er Mitautor der Datenschutz-Folgeabschätzung zur Corona-Warn-App des Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF). Diese trug zu einer bundesweiten Debatte über Nutzen und Sicherheit digitaler Kontaktpersonennachverfolgung bei.

Forschungsansatz

Mühlhoff entwickelt eine „zeitgenössische kritische Philosophie der digitalen Welt“. Seine Forschung liegt zwischen Sozialphilosophie, kritischer Medienphilosophie und der Ethik der digitalen Gesellschaft, von Big Data und künstlicher Intelligenz.

Zentrale Themen sind Datenschutz, Intersektionalität und Antidiskriminierung bei digitalen Technologien. Intersektionalität bezeichnet dabei das Zusammenwirken verschiedener Formen von Benachteiligung. Stark geprägt vom Poststrukturalismus untersucht Mühlhoff besonders das Zusammenspiel von Technologie, Macht und Subjektivität, also die Frage, wie technische Systeme Machtverhältnisse und die Bildung von Menschen als handelnden Subjekten beeinflussen.

Menschliche Arbeit und digitale Steuerung

Mühlhoff betrachtet Machine-Learning-Systeme als soziotechnische Systeme: Ihre Funktionsweise hängt nicht nur von Technik, sondern auch von Menschen, Arbeit und gesellschaftlichen Bedingungen ab. Besonders der kommerzielle Einsatz von Deep Learning sei strukturell auf menschliche Partizipation angewiesen.

Diese Partizipation erfolge einerseits als unbezahlte Arbeit von Nutzerinnen und Nutzern, die KI-Systeme täglich verwenden und dabei Daten erzeugen. Andererseits gebe es Klickarbeit, also kleinste digitale Arbeitsaufgaben, die Menschen für Trainings- oder Prüfprozesse erledigen. Auch Mensch-Maschine-Interaktionen würden gezielt so gestaltet, dass Nutzende Daten produzieren, etwa bei Captchas. Kommerzielle KI ersetze menschliche Intelligenz nach Mühlhoff daher nicht einfach, sondern „hegt“ sie ein.

Bei digitalen Geräten kritisiert er außerdem versiegelte Benutzeroberflächen und Nudges. Ein Nudge ist eine subtile Gestaltung, die Menschen zu einer bestimmten Entscheidung lenken soll. Wenn Optionen bewusst fehlen oder Nutzende zu bestimmten Handlungen gedrängt werden, könne dies zu digitaler Entmündigung führen.

Prädiktive Privatheit

Prädiktive Analytik bezeichnet den Einsatz von Machine-Learning-Modellen, um persönliche oder unbekannte Informationen über Menschen vorherzusagen. Dazu können auch Informationen gehören, die die betroffene Person selbst nicht kennt, beispielsweise Krankheitsprognosen.

Mühlhoff zufolge bedroht dies Privatheit in neuer Weise. Er schlägt deshalb vor, den üblichen Begriff von Privatheit um „prädiktive Privatheit“ zu erweitern. Nicht nur Daten, die eine Person selbst hinterlassen hat, sollen geschützt werden, sondern auch geschätzte oder abgeleitete Informationen über sie. Für eine prädiktive Verletzung der Privatheit sei nicht entscheidend, ob eine Vorhersage richtig ist. Entscheidend sei, ob sie zur unterschiedlichen Behandlung von Personen oder für automatisierte Entscheidungen genutzt wird.

Als Folge nennt Mühlhoff automatisierte und serienmäßige Ungleichbehandlung, etwa bei unterschiedlichen Versicherungsangeboten oder bei automatisierten Entscheidungen über Einladungen zu Jobinterviews. Das Konzept grenzt er von „group privacy“ ab. Da Vorhersagen möglich werden, wenn viele Menschen Daten über digitale Dienste teilen, müsse Datenschutz kollektiv gedacht werden: Eigene Daten können durch prädiktive Analytik auch andere Menschen betreffen.

KI-Bewertung und digitaler Faschismus

Mühlhoff und Marte Henningsen untersuchten die „KI-Korrekturhilfe“ der Firma Fobizz, ein auf Large Language Models wie ChatGPT basierendes automatisches Korrektursystem. Laut Studie sind die Rückmeldungen oft uneinheitlich und wenig nachvollziehbar. Bewertungen von Abgaben können teilweise zufällig wirken und keinem klaren Maßstab folgen. Das Tool erkenne unsinnige oder KI-generierte Eingaben zudem nicht zuverlässig; solche Eingaben erhielten teilweise ähnliche oder bessere Bewertungen als ernsthaft erstellte Arbeiten. Die Autoren sehen darin „gravierende Konsequenzen“ für Schüler. Mühlhoff führt Probleme teilweise auf inhärente Eigenschaften der verwendeten Large Language Models zurück.

In mehreren Beiträgen bezeichnet Mühlhoff bestimmte Strömungen der neuen Rechten beziehungsweise Alt-Right, etwa Trumpismus, als aktuelle Formen faschistischer Politik. Kennzeichnend seien anti-rechtsstaatliche Bestrebungen sowie die Nutzung digitaler Technologien, besonders von KI und Datenanalyse. Trump habe sich nach seiner Auffassung antagonistisch zum politischen System positioniert, statt dessen Regeln zu befolgen. Dieses „Prinzip Mittelfinger“ stifte für Wähler Authentizität. Die Abwertung Trumps und seiner Wählerschaft könne deren Identifikation verstärken; Mühlhoff nennt dies „fatale Identifizierung“.

Nach Trumps zweitem Wahlsieg und der Zusammenarbeit mit Elon Musk im Department of Government Efficiency kritisierte Mühlhoff das digitale Eindringen in Verwaltungsinfrastruktur als faschistische Machtübernahme. Er beschreibt drei Schritte: Eindringen in den Verwaltungsapparat und Besetzung strategischer Positionen mit Vertrauten, Verwertung und Verlinkung von Daten sowie deren Nutzung für zuvor nicht mögliche Zwecke, unter anderem automatisierte Entlassungen zahlreicher Regierungsangestellter. KI-gestützte prädiktive Analytik könne dabei marginalisierte Menschen anhand vorhergesagter Eigenschaften kategorisieren und ungleich behandeln. Möglich werde diese Form des Faschismus durch ein „Zusammenspiel von politischem Regime und Tech-Industrie“.

Veröffentlichungen und Auszeichnungen

Zu Mühlhoffs Büchern zählen The Ethics of AI: Power, Critique, Responsibility (2025), Künstliche Intelligenz und der neue Faschismus (2025), Die Macht der Daten. Warum Künstliche Intelligenz eine Frage der Ethik ist (2023) und Immersive Macht. Affekttheorie nach Foucault und Spinoza (2018). Wichtige Artikel behandeln unter anderem „Predictive Privacy“, automatisierte Ungleichheit, menschengestützte künstliche Intelligenz und digitale Entmündigung.

2022 erhielt Mühlhoff den Hans Mühlenhoff-Preis für gute Lehre der Universität Osnabrück. 2026 wurde sein Buch Künstliche Intelligenz und der neue Faschismus mit dem Sachbuchpreis Das politische Buch der Friedrich-Ebert-Stiftung ausgezeichnet.