Klara Krieg
AI Program Manager @ Bosch
Themenschwerpunkt: KI in der Anwendung, fair AI
Webseiten/Blogs/Soziale Medien:
https://www.linkedin.com/in/klara-krieg/
https://scholar.google.com/citations?user=xFDOE3YAAAAJ&hl=en&oi=ao
Sprache/n: Englisch, Deutsch
Stadt: München
Bundesland: Bayern
Land: Deutschland
Themen: künstliche intelligenz, machine learning, chatbots, ai, diversity in tech, chatgpt, biased ai, ki in der anwendung, diskriminierung in algorithmen, unfaire technologien
Ich biete: Vortrag, Moderation, Seminarleitung, Beratung, Interview
Ich bin bereit, für eine Veranstaltung zu reisen.
Ich bin bereit, für gemeinnützige Zwecke kostenfrei zu sprechen.
Ich spreche über Künstliche Intelligenz in allen Facetten. Ich möchte einfach und verständlich die Hintergründe der aktuell gehypten Technologien erläutern und einfache Anwendungsbeispiele nahebringen.
Mein Forschungsschwerpunkt ist unfaire KI und wie es dazu kommen kann - egal ob HR oder Techie, ich kann mich flexibel dem Publikum anpassen und zeige neue wissenschaftliche Erkenntnis aus Soziologie und Informatik. Im Fokus steht das Aufrütteln und Awareness kreieren, inwiefern AI und Machine Learning generell diskriminierend sein kann und wie sich unsere Vorurteile darin wiederfinden. Verschiedene unconscious biases sind in der Gesellschaft bekannt und werden aktiv bereits bekämpft - nur leider finden diese Verbesserungen nur langsam ihren Weg in die Algorithmen und Technologien um uns. Racial Bias, Gender Bias und weitere negative Voreingenommenheiten (oft gegenüber marginalisierter Gruppen) sind noch zu präsent in Künstlicher Intelligenz. Ich kläre und rüttele auf und gebe einen Einblick in das gesamte Spektrum der algorithmischen Diskriminierung.
Ich bin Hobby-Forscherin und habe mehrere Paper zu dem Thema veröffentlicht und auf Konferenzen vorgestellt, insbesondere mit dem Fokus gender bias in AI.
Wer ist Klara Krieg?
Klara Krieg vereint die Welten Engineering & KI nicht nur durch ihre akademische Laufbahn, sondern auch durch ihre aktuelle Tätigkeit als AI Program Manager für generative KI bei Bosch. In ihrem letzten Projekt beschäftigte sie sich mit KI und Large Language Models im Silicon Valley.
Klaras Leidenschaft liegt darin, die komplexe Welt der KI-Algorithmen greifbar und verständlich zu machen. Sie ist überzeugt davon, dass technologisches Verständnis und die praktische Anwendung neuer Technologien Hand in Hand gehen müssen, um echten Mehrwert zu schaffen. Ihre Arbeit geht weit über das technische Know-how hinaus; sie zielt darauf ab, ein tiefes Verständnis für die Nuancen der Mensch-KI-Interaktion zu fördern und das enorme Potential für jeden einzelnen aufzuzeigen.
Neben ihrer beruflichen Tätigkeit engagiert sich Klara in der Forschung zu Themen wie diskriminierender Künstlicher Intelligenz und Fair AI. Ihre Erkenntnisse fließen nicht nur in ihre Projekte ein, sondern auch in ihre Vorträge, in denen sie komplexe Sachverhalte zugänglich macht. Klara steht sowohl intern bei Bosch als auch auf externen Bühnen und hat das Ziel, das Publikum mit ihrer klaren, anwendungsorientierten Sichtweise auf KI zu begeistern und eine hands-on Perspektive des komplexen Themenfeldes zu geben.
Als aktives Mitglied in verschiedenen Tech-Netzwerken setzt Klara sich leidenschaftlich für das Thema Women in Tech und Diversity ein. Ihr Ziel ist es, eine inklusive Zukunft und Arbeitswelt zu fördern, in der Technologie als Werkzeug dient, um Gleichberechtigung und faire Chancen für alle zu schaffen. Klara Krieg steht an der Schnittstelle von Technik und Gesellschaft und vermittelt nicht nur Wissen über KI, sondern inspiriert auch dazu, die ethischen und sozialen Aspekte der Technologienutzung zu reflektieren.
Was erwartet euch?
Ich biete aktuell 3 Keynote Varianten an:
1) Mensch – Maschine – KI: Wie interagieren wir mit Künstlicher Intelligenz?
In einer Welt, in der Künstliche Intelligenz (KI) zunehmend unseren Alltag durchdringt, eröffnet die Generative KI ganz neue Horizonte für Unternehmen, Entwickler und Endnutzer. Diese Keynote entführt Sie in die faszinierende Welt der Generativen Künstlichen Intelligenz, einer Technologie, die nicht nur Daten analysiert, sondern eigenständig Inhalte wie Texte, Bilder und Musik kreiert. Wir tauchen ein in die Mechanismen, die Generative KI antreiben, von den Grundlagen maschinellen Lernens bis hin zu den neuesten Entwicklungen in Deep Learning und neuronalen Netzwerken. Gleichzeitig addressiert die Keynote die mit dieser Technologie verbundenen Herausforderungen, insbesondere im Bereich der Ethik und der potenziellen Diskriminierung durch internalisierte Stereotype. Ziel ist es, ein Bewusstsein für verantwortungsvollen Umgang mit KI zu schaffen und zu diskutieren, wie unfaire Ergebnisse vermieden werden können.
2) Unfair AI & diskriminierende Algorithmen
Maschinelle Lernverfahren haben mittlerweile einen festen Platz in unserer Gesellschaft eingenommen: Ob bei der Bewerber*innenauswahl, medizinischen Behandlungsempfehlung oder Kreditwürdigkeitsprüfung, ob Alexa, ChatGPT oder Google – oft verschwimmen die Grenzen zwischen uns und der Technologie um uns herum. Allen Vorteilen zum Trotz werden immer mehr Berichte publik, die von unfairen oder diskriminierenden Algorithmen berichten. Oft sind davon bestimmte Personengruppen überproportional häufig betroffen und werden auf Grund von sensitiven Merkmalen (bspw. Race, Gender) diskriminiert. Ich gebe euch einen Einblick, wie sich unsere internalisierten Stereotype und Vorurteile in AI-basierten Systemen wiederfinden können. Der Vortrag eignet sich für non-Techies, Techies und alle Interessierten!
3) KI und die neue Art des Networking: Wie die Technologie die Art und Weise, wie wir uns verbinden, neu definiert
Gemeinsam mit dem Publikum werden wir die kürzlich ausgerufene Ära der „Relationship Economy“ erkunden und erörtern, warum echte menschliche Verbindungen und Eigenschaften wie Empathie und kritisches Denken in einer KI-getriebenen Welt immer wichtiger werden. Die Keynote zielt darauf ab, ein besseres Verständnis dafür zu schaffen, wie wir die Synergie zwischen Menschen und KI effektiv nutzen können, um sowohl in unserem beruflichen als auch in unserem privaten Leben erfolgreich zu sein.
Vorträge / Referenzen:
Alter Bundestag, Bonn: Talking about AI in front of 500 people!
I had the huge pleasure of giving a keynote for Buderus Deutschland at the historic former German parliament.
Explaining complex tech theories in an easy-to-digest, entertaining way is my favorite form of storytelling.
And for sure: discussing AI in a place so rich in history & tradition was a special experience, making me incredibly happy (I think you can tell from the 1st picture).
Die Masterclass beleuchtet aktuelle Trends und Strategien zur Umsetzung von GenAI-Anwendungen – praxisnah illustriert durch Projekte wie Bosch Digital. Sie thematisiert typische Pain Points und die zentrale Herausforderung der Produktionsreife von GenAI. Anhand von Beispielen und Projekten führender Unternehmen wie Toyota und Aleph Alpha werden Erfolgsfaktoren und Methoden zur Risikoreduktion aufgezeigt, mit einem besonderen Fokus auf Wertschöpfung und Mehrwert durch GenAI.
Klara Krieg
AI Program Manager – Bosch
Hans Ramsl
Success Machine Learning Engineer – Weights & Biases
Keynote for women in cyber security event in November 2024
Dieser Vortrag ist auf: EnglischDieser Vortrag ist auf: Deutsch
As part of She Is Tech, a UN women event, I held a Keynote on Gender Bias in AI and how to mitigate the risk of systematic discrimination in tech.
Dieser Vortrag ist auf: Englisch
Gemeinsam mit den Zuhörerinnen werden wir die kürzlich ausgerufene Ära der "Relationship Economy" erkunden und herausfinden, warum genuine menschliche Verbindungen und Eigenschaften wie Empathie und kritisches Denken in einer von KI geprägten Welt zunehmend wichtiger werden. Die Keynote zielt darauf ab, ein besseres Verständnis dafür zu schaffen, wie wir die Synergie zwischen Mensch und KI effektiv nutzen können, um sowohl im Beruf als auch im persönlichen Bereich zu wachsen.
Feedback von Barbara Bosch, Speaking Coach:
"Klara während ihrer Keynote auf der Bühne zu erleben, war ein Genuss. Ihre Keynote war on point, inspirierend und rhetorisch grandios (und sie war nicht mal bei mir im Coaching 😊)."
_________________________
AI and the new way of networking: How technology is redefining the way we connect
Together with the audience, we will explore the recently proclaimed era of the “Relationship Economy” and why genuine human connections and traits such as empathy and critical thinking are becoming increasingly important in an AI-driven world. The keynote aims to create a better understanding of how we can effectively utilize the synergy between humans and AI to thrive in both our professional and personal lives.
Dieser Vortrag ist auf: Deutsch
Imagine the following scene: ‘A doctor arrives at the hotel, checks in at reception and then runs into the cleaner on the way to his room.’
How did you imagine this scene? Was the doctor a middle-aged white man? Was the cleaner a woman busily tidying up? Did you also imagine a young person at the hotel reception?
Such images are often firmly anchored in our minds - and also in the algorithms of artificial intelligence. How do such stereotypes influence AI systems like ChatGPT? And how can we ensure that AI algorithms develop in a non-discriminatory direction?
We will address these and many other questions together with Klara Krieg, expert for fair AI.
Der Sommer neigt sich dem Ende zu, der GenAI-Hype von 2023 verblasst langsam – ist die Blase geplatzt und wir stehen vor einem neuen „AI-Winter“? Im Off the Record „Business Value through GenAI“ gewähren wir exklusive Einblicke in den aktuellen Status Quo in Wirtschaft und Industrie. Wie lassen sich Deutschland und Europa in die globalen AI-Entwicklungen einordnen? Wir zeigen praxisnahe Lösungsansätze für eine erfolgreiche Integration, nachhaltige Skalierung und optimale Datenwertschöpfung. Freuen Sie sich auf inspirierende Impulse und lebhafte Diskussionen!
Moderation: Barbara Burk
Daniela Rittmeier
Head of Data and AI Center of Excellence – Capgemini
Klara Krieg
AI Program Manager – Bosch Digital
Dr. Philipp Hartmann
Director of AI Strategy – appliedAI
Dr. Graciana Petersen
Head of Strategy & Transformation – ZF Group Friedrichshafen
Barbara Burk
Director Business Development & Projektmanagement – Handelsblatt Research Institute
Panel Talk at the Women of Tech event in Stuttgart
Wie können wir eine faire KI schaffen?
together with
Klara Krieg, Robert Bosch GmbH
Walid Mehanna, Merck Group
Naz van Norel, ETHOS AI, Women AI Academy
Heike Schenk, Mercedes-Benz Group AG
As part of the Lunch & Learns at EnBW, I had the opportunity to talk about gender bias in AI and discuss it with the participants.
Dieser Vortrag ist auf: Deutsch
The kick-off explores the dynamic interaction between humans and machines through the use of generative AI, which independently creates content such as texts, images and music. Klara sheds light on how generative AI opens up new opportunities for businesses, developers and end users by enabling innovative solutions in various fields such as art, research and medicine. The presentation dives into the technical foundations and latest developments in generative AI, from machine learning to deep learning. At the same time, it addresses the challenges associated with this technology, particularly in the area of ethics and potential discrimination through internalized stereotypes. The aim is to raise awareness of responsible use of AI and to discuss how unfair results can be avoided.
Afterwards, Klara was part of the panel discussion with Südkurier editor-in-chief Stefan Lutz, Dr. Philip Häusser and Peter Keck. (https://www.suedkurier.de/region/kreis-konstanz/singen/denken-muessen-wir-immer-noch-selber-beim-wirtschaftsforum-geht-es-um-das-zukunftsthema-ki;art372458,11986689)
Dieser Vortrag ist auf: Deutsch
As panelist I was invited to a session with the topic "Impact the Future of Technology and Society for the Better!" together with panelists from Microsoft and AI startups.
As part of the panel discussion, I brought insides on my ethical AI research and ethical AI practices across industries.
Kenynote Speaker & Panelist at the Bosch ConnectedWorld, the biggest Bosch event worldwide, happening once a year in Berlin.
AI - technology for life?
Is that true? Tap into the experiences of our two AI-experts Klara and Carissa, how the reproduction of unconscious biases of the real life in AI are endangering this vision. Together with the DEI-expert Stefanie they will explore opportunities to make AI bias-free and to bring this vision to life - For everyone!
19. März 2024 12:00 Uhr – 19. März 2024 13:00 Uhr
Ort: digital
Veranstalter: Women in Tech e.V.
Kategorie: #PowerLunch
As an AI mentor and speaker, I was able to accompany the Digital Future Challenge 2024, an initiative of the Federal Ministry & Deloitte.
Dieser Vortrag ist auf: Deutsch
Machine learning methods have now established a firm place in our society: Whether in the selection of job applicants, medical treatment recommendations, or creditworthiness checks, whether it's Alexa, ChatGPT, or Google. Despite all the advantages, the algorithm often acts unfairly or discriminates. Certain groups of people are disproportionately affected due to sensitive characteristics (such as race, gender). Klara Krieg shows how our internalized stereotypes and prejudices can be found in AI-based systems and what this can mean for girls' work in Hesse. The lecture is suitable for non-techies, techies, and all interested parties!
Dieser Vortrag ist auf: Deutsch
Unfair AI - ethics in chatbots?
ChatGPT as a hyped topic is currently omnipresent in the media. But we must not forget that, in addition to technical innovation, the ethical implications must also be examined and taken seriously.
In my talk, I will discuss Transformer models, how the Google Paper in 2017 makes them possible and how such models have made solutions like ChatGPT possible in the first place as a technical basis.
I will show the consequences and causes of the viscous cycle of bias and how we need to pay more attention to breaking stereotypes in order to avoid social grievances and their reflection in algorithms.
Presentation on unfair algorithms and gender-discriminatory AI at Deloitte's WIN Lunch.
As part of a DemoZ event Ludwigsburg, I spoke about unfair algorithms in Google and ChatGPT in particular and discussed the vicious circle of algorithmic biases. Whether non-techies or IT specialists, the topic is presented in a low-threshold and simple way, so that in the end everything from discussions about transformer architecture to sociology and stereotype theory is included.
In der 20. Folge unseres #FrauenMachenMINT Podcasts sprechen wir mit Klara Krieg über ihr Forschungsgebiet zum Thema #GenderBias in Algorithmen. Klara ist Trainee im Junior Managers Program AI (Artifical Intelligence) & IoT (Internet of Things) bei Bosch, hat ihren Master in Wirtschaftsinformatik absolviert und ihre Masterarbeit zu dem Thema Geschlechterstereotype in Suchmaschinen geschrieben.
Gender Bias in Algorithmen sind systematische, unfaire Diskriminierungen in Informationssystemen, und somit Teil unserer digitalisierten Gesellschaft. Klara beschäftigt sich sowohl wissenschaftlich als auch privat sehr stark damit, wie Algorithmen, und ganz spezifisch Suchmaschinen, unfair sein können, welche Stereotype von Frauen und Männern dadurch gefestigt werden, und was wir als User*innen dagegen tun können. Sie beschreibt, warum das Gendern in unserer Sprache ganz konkrete Auswirkungen auf Informationssysteme und Algorithmen hat, und warum unsere Realität die Bilder-Ergebnisse in Suchmaschinen beeinflussen und vice versa.
Klara spricht sich offen dafür aus, dass wir als Teil der Gesellschaft unser Bewusstsein dazu schärfen sollten, wie wir unsere Sprache bezüglich Stereotype nutzen, und wie ein Informationssystem, das in 1 und 0 "denkt", keinen semantischen Spielraum hat, marginalisierte Gruppen "mitzumeinen" bzw. zu inkludieren. Es ist ein sehr spannendes und relevantes Gespräch über ein Thema, das sich im Spannungsfeld der Verschmelzung von Technik, Gesellschaft und Soziologie befindet.
Höre rein:
Spotify: https://lnkd.in/dSQRPpU
Apple Podcast: https://lnkd.in/ddqmeJx
Dieser Vortrag ist auf: Deutsch
Racial biases and prejudices unfortunately accompany us unconsciously - not only in the real world, but also in the digital world. I took the audience through the harrowing world of unfair AI, specifically social media and racial biases. From saliency mapping in neural networks to discrimination against people on Twitter: the audience was shaken up and at times left speechless as to how this can happen.
Maschinelle Lernverfahren haben mittlerweile einen festen Platz in unserer Gesellschaft eingenommen: Ob bei der Bewerber*innenauswahl, medizinischen Behandlungsempfehlung oder Kreditwürdigkeitsprüfung – oft unterstützen oder ersetzen sie gar menschliche Entscheidungsträger*innen. Während die Vorteile solcher Automatisierung unbestreitbar sind, wird vermehrt über Algorithmen berichtet, die bestimmte Personengruppen wegen sogenannter sensibler Merkmale, wie z.B. Geschlecht oder Hautfarbe, diskriminieren. Besonders als Frauen sind wir oft davon betroffen. Können Algorithmen lernen „fair“ zu entscheiden? Kann man „Fairness“ überhaupt messen? Wir geben euch einen Einblick in das Forschungsfeld des fairen maschinellen Lernens, das sich mit diesen Fragen befasst. Diskutiert mit uns, vor welche Herausforderungen uns automatisierte Entscheidungssysteme stellen und was wir dagegen tun können!
Dieser Vortrag ist auf: Deutsch
Do Perceived Gender Biases in Retrieval Results affect Users’ Relevance Judgements?
Paper presentation and discussion about my research.