Franziska Boenisch

Ich forsche zum Thema Privacy in Machine Learning.

Die Privatsphärerisiken von maschinellem Lernen (ML) sind erst seit wenigen Jahren ein Thema, doch betreffen Sie jeden, dessen Daten für das Training von ML Modellen verwendet werden. Die Risiken dabei sind divers: So ist es z.B. möglich, aus trainierten Modellen die potentiell sensiblen Trainingsdaten zu extrahieren. So kann ein Angreifer über Zugriff auf das Modell auf die darunterliegenden Daten schließen. Andererseits ist es allerdings auch möglich, bei einem vorhandenen Modell mit relativ hoher Genauigkeit vorauszusagen, ob ein bestimmter Datenpunkt für das Training verwendet wurde. Stellen wir uns vor, wir haben ein Modell, das gesundheitliche Probleme bei Alkoholikern erkennt. So ein Modell müsste auf Daten von Alkoholikern trainiert werden. Kann nun herausgefunden werden, dass ein bestimmtes Individuum fürs Training verwendet wurde, so kann auf dessen Alkoholismus zurückgeschlossen und damit die Privatsfähre verletzt werden.

In meiner Forschung untersuche ich die Ursachen von derartigen Privatsphäreproblemen und arbeite an der Entwicklung von Methoden, um die Risiken zu verringern. Dafür beschäftige ich mich intensiv mit dem Thema Privacy, allerdings auch Sicherheit und Datenschutz.

09/2019 - aktuell: Wissenschaftlicher Mitarbeiterin
Abteilung "Secure Systems Engineering", Fraunhofer AISEC, Deutschland
Aufgaben: Mitarbeit in industriellen und akademischen Forschungsprojekten zum Thema privates maschinelles Lernen und Datenschutz
Betreuer: Prof. Dr. Marian Margraf

09/2017 - 01/2019: Wissenschaftlicher Mitarbeiterin
Dahlem Center für Maschinelles Lernen und Robotik, Freie Universität Berlin, Deutschland
Zu den Aufgaben gehörten: Programmieraufgaben in MATLAB und Python, Literaturrecherche für Projekte, Unterstützung beim Schreiben von wissenschaftlichen Arbeiten und Förderanträgen
Betreuer: Prof. Dr. Tim Landgraf

08/2016 - 10/2016: Forschungsaufenthalt mit DAAD-RISE-Stipendium
National Chung Cheng University, Chiayi, Taiwan
Zu den Aufgaben gehörten: Implementierung von neuronalen Netzen zur Klassifizierung von Lebensmittelbildern
Betreuer: Prof. Ph.D. Wei-Ta Chu

01/2016 - 07/2016: Werkstudentin
Fraunhofer Institut FOKUS, Berlin, Deutschland
Zu den Aufgaben gehörten: Implementierung von wissenschaftlichen Demonstratoren für Predictive Maintenance mit Apache Spark und Flink
Betreuer: Prof. Dr. Adrian Paschke