Hochschule Heilbronn: Wenn der Anruf vom Chef ein Deepfake ist

Von Redaktion, Fotos: Hochschule Heilbronn

Prof. Jochen Günther hat seine Antrittsvorlesung als Inhaber der Stiftungsprofessur »KI und Cyber Security« am Bildungscampus gehalten. Die Stiftungsprofessur wird von der Dieter Schwarz Stiftung gefördert. Rund 60 Gäste hörten Günthers Plädoyer für ein Sicherheitsverständnis, das Technik, Mensch und Organisation zusammendenkt.

Wer in den letzten Monaten in deutschen Unternehmen über Cybersicherheit gesprochen hat, dem ist eine bestimmte Geschichte mit hoher Wahrscheinlichkeit begegnet. Eine Mitarbeiterin in der Buchhaltung erhält einen Anruf vom Geschäftsführer. Stimme, Tonfall, Eigenheiten passen. Der Auftrag: eine dringende Überweisung. Erst später stellt sich heraus, dass am anderen Ende der Leitung kein Mensch saß, sondern ein Sprachmodell, das die Stimme des Vorgesetzten aus öffentlich zugänglichen Aufnahmen geklont hatte. Genau solche Beispiele waren der rote Faden in der Antrittsvorlesung, die Prof. Jochen Günther im April am Bildungscampus gehalten hat.

Stiftungsprofessur am Bildungscampus

Günther hat seit dem Wintersemester 2025/2026 die Stiftungsprofessur »KI und Cyber Security« an der Hochschule Heilbronn inne. Die Professur wird von der Dieter Schwarz Stiftung gefördert. Bei der Antrittsvorlesung am HHN-Standort Bildungscampus überreichte HHN-Rektor Prof. Oliver Lenzen eine Dankesurkunde an Dr. Bernd Bienzeisler, Senior Manager der Dieter Schwarz Stiftung Heilbronn gGmbH. Bienzeisler richtete ein Grußwort an die rund 60 Gäste, unter ihnen Studierende, Lehrende, Bürgerinnen und Bürger sowie Vertreterinnen und Vertreter aus Unternehmen.

Warum reine Technik nicht mehr reicht

Den fachlichen Kern seiner Vorlesung formulierte Günther in einem Satz, der die Verschiebung im Fachgebiet auf den Punkt bringt: »Mit der zunehmenden Verbreitung von KI reicht es nicht mehr, nur Systeme abzusichern. Wir brauchen ein erweitertes Verständnis von Sicherheit, das Technik, Organisation und menschliche Handlungsfähigkeit gemeinsam betrachtet. Wir müssen daher auch verstehen, wie Wahrnehmung, Kommunikation und Entscheidungen gezielt beeinflusst werden können.« Dazu zeigte er drei Angriffsformen, die sich seit dem Aufstieg generativer KI massiv verändert haben. Deepfake-Anrufe und Videos, in denen sich Kriminelle als Führungskräfte ausgeben. KI-gestützte Phishing-Mails, die so personalisiert sind, dass die alten Faustregeln zur Erkennung kaum noch greifen. Und manipulierte KI-Systeme oder Agenten, die durch präparierte Inhalte zu unerwünschten Handlungen verleitet werden. Technische Schutzmaßnahmen blieben unverzichtbar, so Günther laut dem Bericht der HHN, griffen unter KI-Bedingungen aber häufig zu kurz.

Vier Forschungsfelder

Die Forschungsagenda der Stiftungsprofessur umfasst vier Themen, die ineinandergreifen. Erstens geht es um menschliche Entscheidungen unter KI-basierten Täuschungen. Wie reagieren Menschen, wenn sie nicht mehr eindeutig sagen können, ob sie es mit einem echten Anruf oder einer Imitation zu tun haben? Zweitens steht die empirische Untersuchung sicherer Handlungsroutinen im Mittelpunkt. Wie gehen Beschäftigte, Führungskräfte und Sicherheitsverantwortliche mit Informationen um, die plausibel klingen, aber nicht eindeutig verifizierbar sind? Drittens analysiert die Professur Sicherheitskultur und Governance in Organisationen, also Strukturen, Verantwortlichkeiten und gelebte Praxis. Viertens widmet sie sich der nutzerzentrierten Gestaltung sicherer Mensch-KI-Interaktion. Wie können Menschen KI-vermittelte Informationen, Empfehlungen und Handlungen prüfen, begrenzen oder unterbrechen?

Verankert in Heilbronn seit 2016

Günther ist kein Neuzugang am Bildungscampus. Bereits seit 2016 lehrt er als Professor für Wirtschaftsinformatik an der Fakultät Wirtschaft der HHN. Er hat das Lehr- und Lernlabor für Cybersicherheit an der Hochschule mit aufgebaut, in dem Studierende Aspekte der IT-Sicherheit anhand praxisnaher Angriffsszenarien erfahren. Vor seiner HHN-Zeit war er unter anderem in der Forschung am Fraunhofer-Institut für Arbeitswirtschaft und Organisation tätig. In seiner Forschung verbindet er KI-Nutzung in Unternehmen mit Fragen der Cybersicherheit, der organisationalen Gestaltung und des Zusammenspiels von Mensch, Technik und Organisation. Damit deckt die Stiftungsprofessur eine Schnittstelle ab, an der derzeit viele Unternehmen Personalbedarf melden: zwischen IT-Sicherheit und verhaltens- sowie organisationswissenschaftlichen Fragen. Eine Lücke, die in dieser Form bislang an wenigen Hochschulstandorten in Deutschland besetzt ist.

Für die Wissensstadt Heilbronn ergänzt die neue Professur das Profil der Hochschule am Bildungscampus. Mit dem TUM Campus Heilbronn und seinen LLM-orientierten Formaten, mit den Anwendungen rund um den IPAI Campus und den Forschungslinien an der DHBW entsteht eine Konzentration an KI-Expertise, in der die HHN nun eine spezifische Stimme einbringt: die Frage, wie Menschen und Organisationen mit den neuen Risiken umgehen können, die sich aus dem Einsatz von Sprachmodellen und Agenten ergeben.

Melden Sie sich für unseren Newsletter an!