Klara Krieg

Maschinelle Lernverfahren haben mittlerweile einen festen Platz in unserer Gesellschaft: Ob bei der Bewerber*innenauswahl, medizinischen Behandlungsempfehlung oder Kreditwürdigkeitsprüfung, ob Alexa, ChatGPT oder Google. Allen Vorteilen zum Trotz handelt der Algorithmus dabei oft unfair oder diskriminierend. Bestimmte Personengruppen sind dabei auf Grund von sensitiven Merkmalen (bspw. Race, Gender) meistens überproportional häufig betroffen. Klara Krieg zeigt auf, wie sich unsere internalisierten Stereotype und Vorurteile in KI-basierten Systemen wiederfinden können und was das für die Mädchenarbeit in Hessen bedeuten kann. Der Vortrag eignet sich für non-Techies, Techies und alle Interessierten!

Unfair AI - ethics in chatbots?
ChatGPT als Hypethema ist in den Medien aktuell omnipräsent. Doch dürfen wir nicht vergessen, dass neben der technischen Innovation auch die ethischen Implikationen beleuchtet und ernst genommen werden müssen.
Ich gehe im Vortag auf Transformer Modelle ein, wie das Google Paper in 2017 diese ermöglichen und wie solche Modelle als technische Grundlage Lösungen wie ChatGPT erst ermöglicht haben.
Ich zeige die Folgen und die Ursachen des viscous cycle of bias und wie wir mehr Aufmerksamkeit auf die Durchbrechung von Stereotypen legen müssen, um gesellschaftliche Missstände und deren Reflektion in Algorithmen zu vermeiden.

Vortrag zu unfairen Algorithmen und geschlechterdiskriminierender KI beim WIN Lunch von Deloitte.

Im Rahmen eines Events des DemoZ in Ludwigsburg habe ich über unfaire Algorithmen in Google und insbesondere ChatGPT gesprochen und den Teufelskreis der algorithmischen Biases diskutiert. Egal ob non-Techies oder ITler*innen, das Thema wird niedrigschwellig und einfach aufbereitet nahegebracht, sodass am Ende von Diskussionen über Transformer-Architektur bis Soziologie und Stereotype Theory alles dabei ist.

In der 20. Folge unseres #FrauenMachenMINT Podcasts sprechen wir mit Klara Krieg über ihr Forschungsgebiet zum Thema #GenderBias in Algorithmen. Klara ist Trainee im Junior Managers Program AI (Artifical Intelligence) & IoT (Internet of Things) bei Bosch, hat ihren Master in Wirtschaftsinformatik absolviert und ihre Masterarbeit zu dem Thema Geschlechterstereotype in Suchmaschinen geschrieben.

Gender Bias in Algorithmen sind systematische, unfaire Diskriminierungen in Informationssystemen, und somit Teil unserer digitalisierten Gesellschaft. Klara beschäftigt sich sowohl wissenschaftlich als auch privat sehr stark damit, wie Algorithmen, und ganz spezifisch Suchmaschinen, unfair sein können, welche Stereotype von Frauen und Männern dadurch gefestigt werden, und was wir als User*innen dagegen tun können. Sie beschreibt, warum das Gendern in unserer Sprache ganz konkrete Auswirkungen auf Informationssysteme und Algorithmen hat, und warum unsere Realität die Bilder-Ergebnisse in Suchmaschinen beeinflussen und vice versa.

Klara spricht sich offen dafür aus, dass wir als Teil der Gesellschaft unser Bewusstsein dazu schärfen sollten, wie wir unsere Sprache bezüglich Stereotype nutzen, und wie ein Informationssystem, das in 1 und 0 "denkt", keinen semantischen Spielraum hat, marginalisierte Gruppen "mitzumeinen" bzw. zu inkludieren. Es ist ein sehr spannendes und relevantes Gespräch über ein Thema, das sich im Spannungsfeld der Verschmelzung von Technik, Gesellschaft und Soziologie befindet.

Höre rein:

Spotify: https://lnkd.in/dSQRPpU

Apple Podcast: https://lnkd.in/ddqmeJx

Racial Biases und Vorurteile begleiten uns leider unbewusst - nicht nur in der realen, sondern ebenso in der digitalen Welt. Ich nahm das Publikum mit durch die erschütternde Welt der unfairen AI, im konkreten Social Media und Racial Biases. Von Saliency Mapping in neuronalen Netzen hinzu der Diskriminierung von Menschen auf Twitter: das Publikum wurde aufgerüttelt und war zuweilen sprachlos, wie es zu so etwas kommen kann.

Maschinelle Lernverfahren haben mittlerweile einen festen Platz in unserer Gesellschaft eingenommen: Ob bei der Bewerber*innenauswahl, medizinischen Behandlungsempfehlung oder Kreditwürdigkeitsprüfung – oft unterstützen oder ersetzen sie gar menschliche Entscheidungsträger*innen. Während die Vorteile solcher Automatisierung unbestreitbar sind, wird vermehrt über Algorithmen berichtet, die bestimmte Personengruppen wegen sogenannter sensibler Merkmale, wie z.B. Geschlecht oder Hautfarbe, diskriminieren. Besonders als Frauen sind wir oft davon betroffen. Können Algorithmen lernen „fair“ zu entscheiden? Kann man „Fairness“ überhaupt messen? Wir geben euch einen Einblick in das Forschungsfeld des fairen maschinellen Lernens, das sich mit diesen Fragen befasst. Diskutiert mit uns, vor welche Herausforderungen uns automatisierte Entscheidungssysteme stellen und was wir dagegen tun können!

Do Perceived Gender Biases in Retrieval Results affect Users’ Relevance Judgements?
Paper presentation and discussion about my research.