KI und Suchmaschinen: „Wir müssen lernen, Glaubwürdigkeit neu zu bewerten“

Vergrößern

Künstliche Intelligenz verändert, wie Internetnutzende im Netz suchen, was sie dort finden – und worauf sie vertrauen. Im Interview spricht Mario Haim, Professor für Kommunikationswissenschaft mit Schwerpunkt Computational Communication Science an der LMU, über Chancen und Risiken der neuen KI-Zusammenfassungen in Suchmaschinen.

Suchmaschinen wie Bing oder Google liefern nun KI-generierte Antworten, noch bevor Nutzende überhaupt einen Link geklickt haben. Wie verändert sich dadurch das Nutzungsverhalten im Internet?

Mario Haim: Ziemlich grundlegend. Wir haben uns in den letzten 20 Jahren an Linklisten gewöhnt – und daran, Inhalte anhand ihrer Position und bestimmter Hinweisreize zu bewerten. Wir tun das unterbewusst und in Sekundenbruchteilen, um uns in der großen Menge an Informationen, die online zur Verfügung stehen, zurechtzufinden. In der Regel konzentrierten sich Nutzerinnen und Nutzer dann auf die obersten Suchergebnisse – oft bleibt es beim ersten Klick.

Zudem galten etwa bestimmte Domains als Zeichen von Verlässlichkeit – für viele Menschen etwa ein Wikipedia-Link oder der Verweis auf ein qualitätsjournalistisches Angebot. Bei KI-Zusammenfassungen fehlen diese Signale. Denn statt klarer Quellenangaben bekommen wir jetzt eine fertige Antwort in menschlicher Sprache, manchmal sogar im Chat-Interface – und die sieht jedes Mal gleich aus: derselbe Stil, dieselbe Schrift, neutral formatiert und glatt formuliert. Das macht die Interaktion mit Computern vermeintlich menschlicher. Sprache wird so das zentrale Werkzeug der Kommunikation zwischen Mensch und Computer.

Wie bewerten Sie das als Kommunikationswissenschaftler?

Diese Entwicklung, an deren Anfang wir erst stehen, birgt Chancen und Risiken. Wenn die neuen Zusammenfassungen verschiedene verlässliche Quellen ausgewogen kombinieren, kann das demokratietheoretisch ein Mehrwert sein. Denn wenn ich als Nutzender nicht nur auf den ersten Link klicke, sondern eine kurze KI-Zusammenfassung lese, bekomme ich in dieser einen Antwort womöglich schon ein vielfältigeres Bild – verschiedene Meinungen, unterschiedliche Perspektiven, diverse Akteure.

Suchmaschinen verstehen lernen

Welche Risiken sehen Sie andererseits?

Zum einen besteht das Risiko, dass Menschen KI-generierte Sprache unkritisch übernehmen, weil sie so vertraut klingt. Zum anderen erwecken die Antworten den Anschein einer Pluralität, die vielleicht nicht gegeben ist. Und dann sind die Quellen dahinter weitaus weniger transparent und schwieriger zu überprüfen. Früher sah man sofort, woher etwas kam – die Linkliste war selbst ein Signal für Vielfalt. Jetzt ist nicht mehr klar, welche Stimmen in einer Antwort eigentlich sprechen. Wenn wir früher also bestimmte Suchergebnisse und Quellen kritischer hinterfragt haben, lassen wir uns durch den gewohnt freundlichen Duktus kommunikativer KI vielleicht eher überzeugen – unabhängig davon, ob das gerechtfertigt ist.

Was wir hier also brauchen, sind mehr Einblicke in Daten und Mechanismen, um zu verstehen, wie die großen Suchmaschinen ihre KI-Antworten generieren.

Wie geschieht das – informationstechnologisch?

Google etwa greift auf enorme Datenmengen zu – unter anderem aus Google News –, kombiniert diese und übersetzt sie mithilfe großer Sprachmodelle in Antworten. Wie Quellen darin aber priorisiert werden und welche Informationen konkret in die KI-Zusammenfassungen einfließen, wissen wir nicht, weil diese Fragen empirisch nur schwer zu beantworten sind. Mit Input-Output-Analysen oder Datenspenden durch Nutzende versuchen wir in der Kommunikationswissenschaft immer wieder, Suchmaschinen durch die Analyse zehntausender Suchanfragen besser zu verstehen; dennoch bleibt bis zu einem gewissen Grad nach wie vor unklar, wie stark Personalisierung, Zufall oder Regionalisierung zum Beispiel zusammenwirken.

Der Digital Services Act der EU

Welche Rechte haben Forschende dabei?

Mit dem Digital Services Act (DSA) der Europäischen Union gibt es inzwischen eine gesetzliche Grundlage, die die Erforschung der algorithmischen Prozesse hinter solchen KI-Entwicklungen künftig erleichtern soll. Der DSA verpflichtet große Plattformen unter anderem dazu, Wissenschaftlerinnen und Wissenschaftlern Zugang zu bestimmten Daten zu gewähren, wenn ein bestimmtes Risiko, etwa für den öffentlichen Diskurs, besteht. Damit erkennt die EU an, dass Forschung mehr Einblick braucht, um algorithmische Prozesse verstehen und bewerten zu können. Das ist ein Instrument, das es so in keiner anderen Weltregion gibt – ein wichtiger Hebel für Forschungstransparenz.

In welcher Hinsicht werden KI-Zusammenfassungen in der Kommunikationswissenschaft erforscht?

Unser Team am Institut für Kommunikationswissenschaft und Medienforschung der LMU untersucht in einem Projekt mit australischen Kolleginnen und Kollegen, wie sich KI-Zusammenfassungen auf die Vielfalt der präsentierten Informationen auswirken – also darauf, ob und wie sich etwa Meinungsvielfalt in der Darbietung verändert.

Das ist hochrelevant, weil Studien zufolge sich jede vierte Person in Deutschland regelmäßig über Suchmaschinen informiert, für jede sechste Person stellen Suchmaschinen gar den primären Zugang zu Nachrichten dar. Damit prägt insbesondere Google nicht nur, welche Informationen sie finden – sondern auch, wie Meinung insgesamt gebildet wird. Darüber hinaus müssen wir aber auch beobachten, wie Menschen sich die KI-Antworten aneignen und welche Mechanismen der Informationsverarbeitung sie künftig nutzen. Zugeschriebene Glaubwürdigkeit, die lange als zentraler Wegweiser für die Nutzung von Suchmaschinen galt, wird durch die neuen Zusammenfassungen jedenfalls maßgeblich erschwert.

Wie zuverlässig sind die KI-Anbieter?

Wo sehen Sie die ökonomischen Folgen dieser Veränderungen?

Wenn Menschen nicht mehr auf die eigentlichen Suchergebnisse klicken, verlieren etwa journalistische Anbieter Reichweite – und damit Einnahmen. Das kann den Journalismus ökonomisch weiter schwächen – und mit ihm auch die Meinungsvielfalt. Allerdings leben auch Suchmaschinen von journalistischer Qualität. Eine KI kann nur so gut sein wie die Inhalte, auf die sie zurückgreift. Wenn diese Qualität schwindet, verlieren auch die Suchmaschinen an Glaubwürdigkeit. Entsprechend liegt es durchaus im Interesse von Google, auf verlässlich geprüfte und ausgewogene Informationen zurückgreifen zu können.

Wohin geht die Entwicklung – und was raten Sie Nutzerinnen und Nutzern?

KI-Antworten werden sich weiterentwickeln. Aber sie werden wohl Vermittler bleiben, zwischen uns und jenen, die für glaubwürdige Information einstehen. Wir müssen als Online-Nutzende wohl lernen, Glaubwürdigkeit online neu zu bewerten. Möglicherweise verschiebt sich dabei die Aufmerksamkeit etwas weg von der Zuverlässigkeit der Quelle und hin auf die Zuverlässigkeit der Anbieter, wie Google und OpenAI. Denn wer Antworten liefert, trägt Verantwortung – und daran werden sich auch Suchmaschinen künftig noch mehr messen lassen müssen.