Von Robert Mucha, Foto: Fraunhofer IAO

Am Fraunhofer KODIS in Heilbronn untersucht Anamaria Cristescu, wie Künstliche Intelligenz fair und diskriminierungsfrei gestaltet werden kann – und warum diverse Teams dafür entscheidend sind.

Künstliche Intelligenz durchdringt längst unseren Alltag – vom Streaming-Dienst, der Filmempfehlungen ausspuckt, bis hin zu komplexen Entscheidungssystemen in der Medizin, im Personalwesen oder bei der Kreditvergabe. Doch was passiert, wenn diese Systeme Fehler machen oder bestehende Diskriminierungen verstärken statt abbauen? Dieser Frage widmet sich Anamaria Cristescu am Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO im Forschungs- und Innovationszentrum KODIS auf dem Bildungscampus in Heilbronn.

KI als Spiegel gesellschaftlicher Ungleichheit

„Ein zentrales Problem ist die mangelnde Vielfalt in der KI-Entwicklung, sei es in den Daten, mit denen KI trainiert wird, oder in den Teams, die diese KI-basierten Produkte entwerfen“, erklärt Cristescu in ihrem aktuellen Blogbeitrag. Die Expertin für KI und Diversität sieht darin eine der Hauptursachen für problematische Entwicklungen in der Branche.

Besonders kritisch wird es bei Anwendungen, die über den Zugang zu wichtigen Ressourcen entscheiden – etwa bei der automatisierten Bewerberauswahl, der Vergabe von Krediten oder der Analyse von Betrugsfällen. Hier können die Folgen fehlerhafter oder unausgewogener KI-Entwicklung schwerwiegend sein und bestehende soziale Ungleichheiten verstärken.

Die Lösung: Vielfalt auf allen Ebenen

Um diesen „Systemfehlern“ zu begegnen, plädiert Cristescu für einen ganzheitlichen Ansatz mit drei wesentlichen Elementen:

1. Diverse Teams: „Geschlechtervielfalt, kulturelle Vielfalt und interdisziplinäre Perspektiven können dazu beitragen, blinde Flecken zu reduzieren und Systeme zu entwickeln, die für eine breite Nutzerbasis geeignet sind.“
2. Diversität in den Daten: „Repräsentative und ausgewogene Trainingsdaten sind essenziell, um Verzerrungen zu vermeiden. Unternehmen müssen sicherstellen, dass die Daten nicht nur bestimmte Gruppen oder Perspektiven abbilden, sondern die gesamte Vielfalt der Gesellschaft repräsentieren.“
3. Interdisziplinarität: Eine Studie, an der Cristescu beteiligt war, identifizierte sieben Phasen in der KI-Entwicklung, die sowohl technische als auch nicht-technische Kompetenzen erfordern. „Neben Programmierfachleuten, die statistisch immer noch überwiegend männlich sind, müssen daher auch weitere Professionen in den Entwicklungsprozess eingebunden werden, bei denen Frauen meist die Mehrheit stellen – wie z.B. die Sozialwissenschaft, die Ethik, die Geisteswissenschaft, die Kommunikationswissenschaft oder die Psychologie.“

KI als Chance für mehr Gerechtigkeit

Auf die Frage, ob KI-Systeme verändert werden sollten, wenn sie lediglich gesellschaftliche Realitäten mit ihren Ungleichheiten widerspiegeln, antwortet Cristescu klar: „Ja! Ursprünglich war die Idee hinter KI-Systemen, objektive und unvoreingenommene Entscheidungen zu treffen. Stattdessen sehen wir, dass KI-Systeme bestehende Biases verstärken.“

Sie sieht jedoch auch eine besondere Chance: „Weil KI-Systeme trainiert werden können, können sie auch einfacher ‚umtrainiert‘ oder angepasst werden als gesellschaftliche Strukturen oder als wir Menschen. Diese Technologie bietet die Chance, eine gerechtere Gesellschaft zu schaffen – aber nur, wenn wir es aktiv wollen.“

Heilbronn als Zentrum der KI-Ethik

Mit ihrer Arbeit am Fraunhofer KODIS in Heilbronn reiht sich Cristescu ein in die wachsende Zahl von Forscherinnen und Forschern, die auf dem Bildungscampus an der Zukunft der KI arbeiten. Während andere Institutionen wie der Innovationspark Artificial Intelligence (IPAI) oder die Campus Founders Startups fördern und technologische Innovationen vorantreiben, widmet sich Cristescu den ethischen und gesellschaftlichen Aspekten der Technologie.

Die Kombination aus technischer Innovation und ethischer Reflexion macht Heilbronn zu einem interessanten Standort in der KI-Forschung. Mit dem EU AI Act, über den Cristescu in einem zukünftigen Blogbeitrag schreiben will, könnten die von ihr erforschten Konzepte bald auch regulatorische Bedeutung erlangen.

Für Unternehmen, die sich fragen, ob ihre KI-Systeme den Ansprüchen an Fairness und soziale Verantwortung genügen, bietet das Fraunhofer-Team um Cristescu auch Beratung und Unterstützung an – ein weiterer Baustein im Heilbronner KI-Ökosystem, das technologische Exzellenz mit ethischer Verantwortung verbinden will.