Erkenntnisse vom Global Technology Forum – mit Tomer Shadmy, Professorin für Informatik, Rechtswissenschaften und Ethik an der Hebräischen Universität Jerusalem (HUJI)

Ordnung im digitalen Raum, das Aufdecken von Desinformationen und die Etablierung eines rechtlichen Gerüsts zum Schutz der Menschen in den sozialen Netzwerken sind nur drei Themen, mit denen sich Prof. Tomer Shadmy von der HUJI beschäftigt. In diesem Jahr war sie bereits zum zweiten Mal beim Global Technology Forum am TUM Campus Heilbronn zu Gast und hatte eine Menge Fragen an ihre internationalen Kolleginnen und Kollegen im Gepäck.

Transformationsprozesse liegen Shadmy besonders am Herzen, denn sie hat selbst einen durchlaufen: Aufgewachsen in einem Kibbuz mit engen Strukturen und einer homogenen Gemeinschaft, erlebte sie einen Sinneswandel: „Für mich ist es wichtig, Dinge aus verschiedenen Perspektiven zu betrachten, um die Welt zu verstehen.“ Die Zusammenarbeit verschiedener Disziplinen, Nationalitäten und Institutionen ist für sie entscheidend, denn: „Nur so kommen wir zu einem grundlegenden Verständnis.“

Technik verstehen, Folgen abschätzen

Als promovierte Juristin öffnete ihr der Weg zum Doktortitel die Augen. Shadmy erinnert sich: „Während meiner Promotion an der Universität Tel Aviv beschäftigte ich mich mit der sozialen Verantwortung von Unternehmen im Hinblick auf Menschenrechte. Schnell wurde mir klar, dass die einflussreichsten Unternehmen die großen digitalen Tech-Konzerne wie Facebook und Google sind.“ Doch um die sozialen Auswirkungen dieser Big Player untersuchen zu können, fehlte ihr ein entscheidendes Detail: das technologische Know-how.     

Daher strebte sie nach ihrer Promotion eine Kooperation mit Informatikern von der Hebräischen Universität Jerusalem (HUJI) an. Seit über fünf Jahren arbeitet sie mit Prof. Katrina Ligett zusammen. „Wir haben Wege gefunden, einander zu verstehen. Sie weiß, wie man Algorithmen erforscht und entwickelt; ich weiß, wie man Initiativen erforscht und entwickelt, um die Auswirkungen des Algorithmus auf die Gesellschaft zu messen und zu verbessern. Jede Disziplin hat ihr eigenes Vokabular. Die Entwicklung von Algorithmen und technologischen Systemen, die der Öffentlichkeit dienen, erfordert als Ausgangspunkt ein gemeinsames Vokabular, mit dessen Hilfe man sie sich vorstellen und gestalten kann“, sagt Shadmy.

Und manchmal entstehen daraus sogar völlig neue Forschungsansätze oder gar Disziplinen: „Ich interessiere mich dafür, zu erforschen, wie technologische Systeme von Anfang an so gestaltet werden können, dass sie Menschen und politischen Gemeinschaften ermöglichen, ihre Rechte auszuüben und sich zu entfalten. Zu diesem Zweck gehören zu meinen zentralen Errungenschaften Lehrveranstaltungen, in denen Informatikstudierende etwas über Technologie und menschliche Entfaltung, Menschenwürde und Freiheit lernen und so befähigt werden, bereits in den frühesten Phasen ihrer Arbeit zu erkennen, wie Technologien entwickelt werden können, die die menschliche Freiheit erweitern, anstatt sie einzuschränken.“

Fake News hinterlassen Spuren

Für die Wissenschaftlerin sind Fake News, einer ihrer Forschungsschwerpunkte, ein Warnsignal. Nicht zuletzt, weil sie als Studentin als Journalistin arbeitete, und seitdem fürchtet, „dass wir nicht mehr schätzen und erkennen, wie wichtig ein gemeinsames Verständnis der Welt ist. Die Realität existiert, und es geschehen schreckliche Dinge, aber wir werden sie nicht ändern, wenn wir im öffentlichen Diskurs nicht darüber sprechen können.“

Denn auch offensichtlich falsche Behauptungen hinterlassen Spuren: „Es entstehen Verbindungen in den Neuronen unseres Gehirns.“ Als Beispiel führt sie den amerikanischen Wahlkampf 2016 an, in dem Hillary Clinton durch Bildmanipulationen als krank, korrupt oder kriminell dargestellt wurde. „Das ist das Verrückte daran. Selbst wenn die Leute wissen, dass es sich um eine Fälschung handelt, beeinflusst es ihr Weltbild.“ 

Und der Trend zur Desinformation setzt sich fort. „Gerade arbeite ich an einem großen Projekt über generative KI und deren Einfluss auf den öffentlichen Diskurs. Wie können wir anders über generative KI nachdenken und welche Art von technologischer Entwicklung und Regulierung brauchen wir, damit sie wirklich dazu beiträgt, dass wir die Welt besser verstehen?“, erläutert Sahdmy. Ein Hauptziel ist es, Daten zu nutzen, ohne sie dabei zu verändern. Ein wichtiges Ziel ist es, Verfahren zur Überprüfung der persönlichen Korrespondenz mit Chatbots zu entwickeln, ohne dabei die Privatsphäre der Nutzer zu beeinträchtigen.

Ein Plädoyer für die Spontanität

Eine von Shadmys Befürchtungen ist die Rückkehr in Platons Höhle: Nur noch die Darstellung der Welt zu betrachten und den Trugschluss zu ziehen, es handele sich um die Realität, anstatt hinauszugehen und sich die Welt anzusehen. Dagegen helfe nur eines: spontan zu bleiben. Dies gelte auch für die Wissenschaft: „Wir haben so viele Regeln und machen so viele Dinge, dann kommt die KI und verändert alles. Wenn ich mit den weltweit besten Expertinnen und Experten beim GTF spreche, entstehen Kooperationen und ein neues gegenseitiges Verständnis, denn jede Institution hat ihre eigene Kultur, ihre eigenen Prämissen und Traditionen.“

Als Panel-Teilnehmerin und Workshop-Verantwortliche für das Thema „Reimagining Academia in the Age of AI“ war Prof. Tomer Shadmy eine der prägenden Kräfte des diesjährigen Forums. Sie zieht ein positives Fazit, denn das GTF verkörpert vieles, was ihr persönlich wichtig ist: „In Heilbronn entsteht ein Treffpunkt für weltweit führende Institutionen, an dem die Zukunft der Technologie neu gedacht wird. Die Motivation, Menschen zusammenzubringen und Dinge anders anzugehen als bei üblichen akademischen Konferenzen, ist großartig. Das schafft eine besondere Atmosphäre und liefert konkrete Ergebnisse.“