Die Kehrseite sicherer KI

Auf bestimmte Fragen soll Künstliche Intelligenz (KI) keine Antwort geben: Technische Sicherheitsverfahren können verhindern, dass KI-Systeme etwa beim Bau einer Bombe oder bei anderen gefährlichen Vorhaben helfen. Doch dieselben Verfahren können missbraucht werden – etwa um legitime Fragen zu Geschichte oder Politik zu blockieren.

Dieses sogenannte Dual-Use-Risiko haben die LMU-Forschenden Sarah Ball und Dr. Phil Hackemann in einem Positionspapier untersucht. Nun wurden sie bei der International Conference on Machine Learning (ICML) 2026 in Seoul, Südkorea, einer der weltweit führenden Konferenzen für Maschinelles Lernen, dafür ausgezeichnet.

„Als KI-Forschende müssen wir uns bewusst sein, dass unsere Methoden auch missbraucht werden können“, sagt die Preisträgerin Sarah Ball. „Dieses Bewusstsein wollen wir schärfen – in der Wissenschaft, aber auch darüber hinaus.“

Ball promoviert am Social Data Science and AI Lab der LMU sowie am Munich Center for Machine Learning. Zusammen mit dem ebenfalls prämierten Politologen Phil Hackemann arbeitet sie an der Schnittstelle von Künstlicher Intelligenz, KI-Sicherheit, Social Data Science und Politikwissenschaft.

Dual-Use-Risiko von Technologien

Vergrößern

Hinter der Arbeit der beiden Forschenden steht eine grundsätzliche Frage: Wer entscheidet, was ein KI-System beantworten darf und welche Informationen es zurückhält? „Schon heute nutzen autokratische Regime und andere mächtige Akteure KI-Technologien, um Fakten und damit die öffentliche Meinung zu manipulieren“, sagt Phil Hackemann, der im vergangenen Jahr am Geschwister-Scholl-Institut für Politikwissenschaft der LMU promoviert wurde. „Es ist deshalb wichtig, sich des Dual-Use-Risikos solcher Technologien bewusst zu sein.“

In ihrem auf der ICML ausgezeichneten Positionspapier The Alignment Community is Unintentionally Building a Censor’s Toolkit stellen Ball und Hackemann die Annahme infrage, dass sogenanntes Value Alignment, also die Ausrichtung von KI-Systemen an vorgegebenen Werten und Zielen, grundsätzlich dem Gemeinwohl dient. Stattdessen zeigen sie, dass solche Methoden auch für Zensur und Manipulation missbraucht werden können.

„Wir müssen verstehen, dass Sicherheitsmechanismen, die vor Missbrauch schützen sollen, selbst missbraucht werden können“, sagt Sarah Ball. „Ein Modell, das gefährliche Inhalte zuverlässig blockiert, kann mit denselben Methoden auch daran gehindert werden, legitime Informationen bereitzustellen.“ Phil Hackemann erklärt: „Die Werkzeuge, die KI sicher machen, sind zugleich die Werkzeuge, mit denen sie zum Zensor werden kann.“

Eingriffe auf mehreren Ebenen

Vergrößern

Ball und Hackemann zeigen in ihrem Papier, dass solche Eingriffe auf mehreren Ebenen möglich sind: Schon bevor ein KI-Modell trainiert wird, können bestimmte Inhalte aus den Datensätzen entfernt werden. Anschließend lässt sich das Modell durch menschliches Feedback, Bewertungssysteme oder feste Leitlinien so ausrichten, dass es bestimmte Antworten gibt oder verweigert.

Und selbst im laufenden Betrieb können Systemprompts oder zusätzliche Filter darüber entscheiden, welche Antworten ein Modell gibt oder verweigert. „Wenn ein KI-System eine Frage nicht beantwortet, liegt das also möglicherweise nicht daran, dass ihm das Wissen fehlt“, sagt Phil Hackemann. „Es kann auch daran liegen, dass es darauf ausgerichtet wurde, bestimmte Informationen zurückzuhalten.“

Als Beispiele führen die Forschenden chinesische KI-Modelle wie DeepSeek an, die politisch sensible Fragen nicht frei beantworten, etwa zur Niederschlagung der Proteste auf dem Tiananmen-Platz im Jahr 1989. Zudem verweisen sie auf Vorgaben der chinesischen Cyberspace-Regulierungsbehörde CAC, nach denen Anbieter prüfen müssen, ob Modelle als „sicher“ eingestufte Antworten geben und bestimmte Anfragen verweigern.

Ein weiteres Beispiel ist das chinesische Modell Yi-large: Laut Paper wurde hier beobachtet, dass Antworten noch während der Ausgabe gefiltert wurden, um Kritik zu unterdrücken. Für die Forschenden zeigt sich daran, dass Verfahren, die ursprünglich der Sicherheit dienen, auch zur Durchsetzung politischer Vorgaben genutzt werden können.

„Risiko für die öffentliche Meinungsbildung“

Das Risiko beschränkt sich aus Sicht von Ball und Hackemann aber nicht auf staatliche Zensur. Auch private Anbieter können durch Trainingsentscheidungen, Systemprompts oder andere Eingriffe beeinflussen, welche politischen oder gesellschaftlichen Positionen ein Modell wiedergibt. Als Beispiel verweisen die Forschenden auf Debatten um Elon Musks Chatbot Grok.

Zugleich benennen sie in ihrem Positionspapier Ansätze, wie sich solcher Missbrauch begrenzen lässt, etwa durch bessere Tests, mit denen KI-Modelle auf Zensur und Manipulation geprüft werden. „Nutzerinnen und Nutzer sollten nachvollziehen können, welche Informationen ein KI-System ausgibt, zurückhält oder verweigert“, so Sarah Ball.

Wichtig sei zudem eine größere Vielfalt an KI-Modellen. „Wenn nur wenige Anbieter oder Staaten zentrale Informationssysteme kontrollieren, entsteht ein Risiko für die öffentliche Meinungsbildung“, sagt Phil Hackemann. „Denn wer festlegt, welche Werte ein KI-System abbilden soll, nimmt Einfluss darauf, welche Informationen Menschen erhalten.“

Die Preisverleihung fand am 7. Juli im Rahmen der Eröffnungszeremonie der ICML in Seoul, Südkorea, statt.