Pia Sombetzki

Conversarion at re:publica conference 2024, together with Likhita Banerji, Amnesty Tech & Naomi Appelman, Racism & Technology Center

Description:
Civil society actors and journalists have been instrumental in uncovering many of the current-day harms of AI, from biased welfare algorithms to disinformation spread through generative AI. Let's take a moment to take stock as well as explore the difficulties that come along the way.

https://re-publica.com/de/session/discrimination-disinformation-what-it-means-investigate-ai-harms-today

Gemeinsam mit Helene Hahn, Referentin für Internetfreiheit bei Reporter ohne Grenzen e.V., Andrea Sanders-Winter, Unterabteilungsleiterin Bundesnetzagentur und Khoa Trung Le, Chefredakteur und Herausgeber von Thoibao.de sprachen wir zu den neuen Möglichkeiten für die Plattformaufsicht, die sich durch die Umsetzung des Digital Services Act in Deutschland ergeben.

Mit dem Digitale-Dienste-Gesetz und der Bundesnetzagentur als Koordinierungsstelle für alle Anfragen und Beschwerden startet Deutschland endlich in eine neue Ära der Plattformaufsicht: Nutzer*innen sollen online besser geschützt werden – vor digitaler Gewalt, Manipulation, aber auch diskriminierenden Algorithmen der Plattformen. Die Zusammenarbeit erfolgt mit der EU-Kommission, die große Plattformen beaufsichtigt. Große Versprechen macht das neue Gesetz auch Forschenden, die schon seit langem besser verstehen wollen, wie die Plattformen ticken und was dringend geändert werden müsste.

https://re-publica.com/de/session/was-heisst-eigentlich-plattformaufsicht-der-praxis-was-der-neue-digitale-dienste

Ich sprach beim 135. Netzpolitischen Abend der Digitalen Gesellschaft zu neuen Möglichkeiten für Plattformforschende durch den Digital Services Act und wie AlgorithmWatch sie versucht zu nutzen.

Was ist wahr – was ist falsch, was ist gefälscht? Bilder und Videos können mittlerweile so bearbeitet werden, dass es schwer oder auch gar nicht zu erkennen ist, dass sie keine Originale sind. Künstliche Intelligenz macht es möglich. Und es soll erst der Anfang sein. Gemeinsam mit Jörg Thadeusz sprach ich über die Gefahren von Fakes.

Forum mit Pia Sombetzki, AlgorithmWatch (Organisation & Moderation), Nathalie Schlenzka, Antidiskriminierungsstelle des Bundes, Armand Zorn, Mitglied des Deutschen Bundestag, Kay Schulze, Paritätischer Wohlfahrtsverband - Gesamtverband

Unser Alltag ist zunehmend durchzogen von Algorithmen und Entscheidungen, die automatisch gefällt werden und mitunter über unseren Zugang zu Arbeit, Bildung, Gütern und Dienstleistungen entscheiden. Sie sollen viele Prozesse effizienter machen – ein unreflektierter und intransparenter Einsatz solcher automatisierter Systeme birgt allerdings die Gefahr, Diskriminierung in Entscheidungsprozesse einzuschreiben. Wie aber können wir als Zivilgesellschaft zur Debatte über algorithmische Diskriminierung beitragen und selbst dafür sorgen, Diskriminierung zu verhindern, wo wir Einfluss haben? Wie können wir vorgehen, um diskriminierende Entscheidungssysteme und ihre Folgen zu erkennen und aufzudecken? Wie kann der Rechtsschutz für Betroffene von algorithmischer Diskriminierung gestärkt werden?

https://digital-social-summit.de/session/computer-says-no-was-tun-wenn-algorithmen-diskriminieren/

Beim Digitalen Salon sprach ich zu den Gefahren von Gesichtserkennung im öffentlichen Raum.

Ausführliche Veranstaltungsbeschreibung: https://www.hiig.de/events/digitaler-salon-frozen-eye/

Panel discussion on “Intersectional Perspectives on Artistic Intelligence”, organized by the Hans Bredow Institute, together with Jun.-Prof. Dr. Katrin Köppert (HS for Graphics and Book Studies Leipzig) and Dr. Nakeema Stefflbauer (Frauenloop).
We discussed the underlying problems in AI technology, negatively impacting marginalized groups in society as well as the possibilities that arise from this. Among those, regulation and the diversification of training data.

In dieser Podcastfolge sprach ich über die folgenden Themen: Was ist algorithmische Diskriminierung? Wie können Personen gegen diese Art der Diskriminierung vorgehen? Und was sind hilfreiche präventive Maßnahmen? Wir sprachen über das Diskriminierungspotenzial von Algorithmen. Denn Algorithmen, KI & andere technischen Programme sind menschengemacht, ergo übernehmen sie deren Vorurteile und Nachlässigkeiten, wenn nicht auf Teilhabe und Vielfalt geachtet wird.

Ich erklärte in dieser Podcastfolge von Zurück zum Thema von Detektor.FM wie Systeme automatisierter Entscheidungsfindung in Deutschland besser reguliert werden könnten, um Diskriminierung durch diese vorzubeugen.