Imaginäre der Künstlichen Intelligenz (Dr. Paula Helm)

Warum Technik niemals neutral sein kann und Wertabwägungen im Gestaltungsprozess deshalb proaktiv thematisiert werden müssen.

Der Mensch in der Hand der KI

Jüngste technische Innovationen im Bereich Datensammlung und -verarbeitung markieren den Aufstieg von KI als ein paradigmatisch neues Phänomen. Innovationen bestimmen jedoch nicht im Alleingang ihren künftigen Weg. Neben politischen und wirtschaftlichen Interessen spielen auch die gesellschaftlichen Imaginäre davon, was KI leisten kann und soll eine zentrale Rolle. Imaginäre sind also keineswegs trivial! Sie sind nicht einfach arbiträre Vorstellungen. Sie sind Praktiken, die es einer Gesellschaft ermöglichen, abstrakten Prozessen einen Sinn zu geben. Durch sie werden Ideen und Visionen nicht nur kommuniziert, sondern performativ in Kraft gesetzt.

In Bezug auf KI sind es insbesondere die Imaginäre der Unfehlbarkeit und Neutralität, die Einfluss darauf nehmen, mit welchen Autoritätsansprüchen KI-Systeme in Einsatz gebracht werden. In Bereichen wie der Medizin oder Strafverfolgung kann das weit reichende Folgen haben. Flankierend dazu entwickelt sich in dem neuen Forschungsfeld der Critical Algorithm Studies eine enorme Betriebsamkeit unter Forscher*innen, die Licht auf die sozio-kulturellen Prozesse der Produktion derartiger Systeme werfen, um diese derart zu entmystifizieren. Geht man davon aus, dass jedes KI-System zugleich ein sozio-technisches Konstrukt ist, so wird klar, dass immer auch Normen, Werte, Menschenbilder in das Design dieser Systeme eingeschrieben sind. Hier setzt die Kritik am Neutralitätsimaginär an. Denn wer von Neutralität ausgeht, reflektiert nicht, welche Vorurteile ein System transportiert und läuft Gefahr, Missstände unbeachtet zu reproduzieren. Ein Gegenprogramm hierzu entwirft das „Values in Design“-Paradigma. Statt von Neutralität auszugehen, zielt es darauf ab, bewusst zu beeinflussen und zu antizipieren, welche ethischen Auswirkungen bestimmte Design- und Programmierentscheidungen haben werden, wenn sie sich materialisieren.

In dem Vortrag werden zunächst einige dominante Imaginäre der Künstlichen Intelligenz thematisiert. Es werden reale Auswirkungen dieser Imaginäre aufgezeigt. Im Anschluss werden mit Bezug auf die Kritik dieser Imaginäre Ansätze des wertezentrierten Technikdesigns vorgestellt, anhand von Beispielen veranschaulicht sowie kritisch zur Diskussion gestellt.

Zur Vortragenden

Dr. Paula Helm ist wissenschaftliche Mitarbeiterin im Internationalen Zentrum für Ethik in den Wissenschaften. Sie ist dort an dem BmbF Forschungsprojekt PEGASUS "Polizeiliche Gewinnung und Analyse heterogener Massendaten zur Bekämpfung organisierter Kriminalitätsstrukturen“ sowie dem EU-Projekt „WeNet. The Internet of Us“ beteiligt.
 
Sie studierte Kulturanthropologie sowie Friedens- und Konfliktforschung in Marburg (2005-2011) und wurde 2016 zum Thema Suchttherapie promoviert. Über die Universitäre Forschung hinaus ist Paula Helm bei Parents for Future engagiert. Sie arbeitete als Volunteer in sozialen Hilfsprojekten in Ruanda, Guatemala und Nordrussland und war Gleichstellungsbeauftragte. Ihre Arbeiten wurden in internationalen Zeitschriften wie New Media & Society, Addiction Research & Theory, Ethics & Information Technology, Surveillance & Society, Ephemera. Theory and Politics in Organization publiziert und auf internationalen Konferenzen in Berkley, Amsterdam und New York präsentiert.