Kathrin Grosse

Kathrin Grosse

Ich bin Kathrin Grosse und forsche daran Maschinelles Lernen und KI sicher gegenüber Angriffen, Manipulationen und Ausfällen zu gestalten. Seit 2016 bin ich Doktorandin am CISPA Helmholtz-Zentrum für Informationssicherheit in Saarbrücken. Meinen Bachelor habe ich in Kognitionswissenschaften in Osnabrück gemacht. Informationsverarbeitung im Menschen und in Maschinen begeistert mich. Danach habe ich den Master in Informatik in Saarbrücken gemacht, wo ich auf IT-Sicherheit aufmerksam wurde. Diese beiden Themen verbinde ich in meiner Promotion: IT-Sicherheit für KI ist ein relativ neues und zugleich extrem zentrales Feld. Zuverlässige und vertrauenswürdige KI erfordert IT-Sicherheit. Fehlverhalten und Sicherheitslücken von KI-Systemen erscheinen schwierig vorherzusagen, da Lern- und Entscheidungsverhalten von KI oft intransparent ist. Diese Intransparenz hat verschiedene Ursachen, z.B. die Trainingsdaten, den Lernalgorithmus (z.B. Deep Learning) und/oder die Konfiguration. Mit meiner Forschung demonstriere ich nicht nur die Verwundbarkeiten von KI, sondern analysiere die zugrunde liegenden mathematischen oder algorithmischen Ursachen, um dann anwendungsspezifische Lösungen abzuleiten.