Wie kann Natural Language Processing (NLP) Gesundheit, Bildung, Klimaschutz und den Kampf gegen Desinformation verbessern? Forschende des TUM Campus Heilbronn zeigen, wo Sprachmodelle bereits gesellschaftlichen Mehrwert schaffen, welche Risiken bestehen und welche Forschungsfelder künftig im Mittelpunkt stehen.

Mit dem rasanten Fortschritt der Künstlichen Intelligenz beeinflusst auch Natural Language Processing (NLP) längst viele Lebensbereiche. Das Teilgebiet der KI beschäftigt sich damit, wie Computer menschliche Sprache verstehen, verarbeiten und erzeugen können. Dr. Daryna Dementieva nennt eine häufig genutzte Anwendung: „Eine Erfolgsgeschichte ist die maschinelle Übersetzung. Es ist erstaunlich, wie viele Sprachen wir mit ihr übersetzen können – und das mit erstaunlich hoher Genauigkeit“, sagt die wissenschaftliche Mitarbeiterin am Lehrstuhl für Data Analytics & Statistics von Prof. Alexander Fraser am TUM Campus Heilbronn.

Dementieva ist eine der Autorinnen des Papers „NLP for Social Good: A Survey and Outlook of Challenges, Opportunities, and Responsible Deployment“, das einen Überblick über wissenschaftliche Arbeiten im Bereich „NLP for Social Good“ gibt. Dabei haben die Forschenden von mehr als 25 Universitäten in Europa, Nordamerika und Asien neun für globale Entwicklungs- und Risikoagenden relevante Bereiche ausgewählt und jeweils die wichtigsten Chancen und Herausforderungen aufgezeigt.

NLP in Gesundheit, Bildung und Klimaschutz

Im Gesundheitswesen beispielweise helfen Methoden der Sprachverarbeitung bei der Analyse medizinischer Texte, unterstützen Diagnosen und Behandlungen. Im Bildungssektor ermöglicht die Technologie personalisierte Lernangebote, gibt automatisiertes Feedback, baut Sprachbarrieren ab und erleichtert Menschen mit Behinderungen den Zugang zu Bildung. Im Umwelt- und Klimaschutz werden mithilfe von NLP wissenschaftliche Studien, Nachhaltigkeitsberichte und politische Dokumente analysiert und zusammengefasst sowie Desinformation oder Greenwashing erkannt.

Gleichzeitig stellen sich große Herausforderungen: Im Gesundheitswesen mangelt es vor allem an hochwertigen und vielfältigen Daten. Im Bildungsbereich zählen die begrenzten pädagogischen Fähigkeiten der Modelle und ihre Zuverlässigkeit zu den größten Hürden. Im Umwelt- und Klimaschutz erschweren komplexe und uneinheitliche Daten die automatisierte Auswertung. Hinzu kommen falsche, widersprüchliche oder veraltete Informationen durch Halluzinationen.

Sprachmodelle zwischen Chancen und Risiken

Besonders deutlich zeigt sich das ambivalente Potenzial großer Sprachmodelle (LLMs) beim Thema Falschinformation, das Dementieva als eine der größten Bedrohungen für die Demokratie und die Gesellschaft betrachtet: „Vor allem bei der Erkennung und Erklärung von Hassrede erzielen LLMs sehr gute Ergebnisse. Sie können nachvollziehbar begründen, warum ein Text als hasserfüllt oder toxisch eingestuft wird. Noch leistungsfähiger werden sie, wenn sie mit kleineren, spezialisierten Modellen kombiniert werden.“ Auch bei der Nachrichtenanalyse seien KI-Modelle klassischen Verfahren überlegen: „Sie können Inhalte präzise zusammenfassen, den Schreibstil einordnen und die wichtigsten Informationen zuverlässig extrahieren.“

Doch wie jede andere sogenannte Dual Use-Technologie kann auch NLP missbraucht werden: „KI kann manipulative Inhalte, Deepfakes oder Bots erzeugen, die soziale Medien beeinflussen.“ Die Erforschung und Bekämpfung dieser Falschinhalte wird dadurch erschwert, dass Forschende häufig keinen Zugang zu den relevanten Daten bekommen: „Derzeit sind viele APIs – also Programmierschnittstellen, über die Forschende auf Daten sozialer Medien zugreifen können – gesperrt, etwa bei Facebook oder X. Das ist problematisch, denn gerade diese Plattformen enthalten viele Informationen über Falschinformationen und Bots.“

Fünf Zukunftsfelder für Sprachmodelle und NLP

Aus den Erkenntnissen für die einzelnen Anwendungsbereiche identifiziert das Autorenteam fünf zentrale Entwicklungsfelder für die Zukunft des NLP: Sprachmodelle sollten mehr Sprachen und kulturelle Perspektiven berücksichtigen, um die Vielfalt der realen Welt besser abzubilden und auch Minderheiten einzubeziehen. Die Autorinnen und Autoren plädieren für eine enge Zusammenarbeit zwischen Mensch und KI sowie für eine gemeinsame Entwicklung von KI-Systemen mit den späteren Nutzergruppen. Darüber hinaus sollten Sprachmodelle Informationen stärker mit externen Quellen verknüpfen, um möglichst verlässliche und kontextbezogene Antworten zu ermöglichen. Ebenso wichtig seien transparente und nachvollziehbare Modelle sowie die Förderung der KI-Kompetenz in der Gesellschaft.

Daraus wiederum leiten die Autorinnen und Autoren mehrere Handlungsempfehlungen ab. Die Wichtigsten fasst Dementieva zusammen: „Oberste Priorität hat die Entwicklung deutlich anspruchsvollerer Benchmarks, um LLM-basierte Agenten zuverlässig zu bewerten. An zweiter Stelle steht die Anwendung dieser Systeme in unterschiedlichen Feldern. Drittens sollten wir neue Architekturen für kleinere Modelle entwickeln.“ Dabei dürfe das eigentliche Ziel nie aus dem Blick geraten: „All diese Modelle sollten einen positiven gesellschaftlichen Mehrwert schaffen.“ Trotz aller Herausforderungen blickt Dementieva optimistisch in die Zukunft: „Es gibt noch viele Aufgaben zu lösen. Doch ich bin fest davon überzeugt, dass die Entwicklung in allen von uns untersuchten Anwendungsfeldern voranschreitet – schließlich gibt es enormes Potenzial.“