Der aktuelle KI-Hype verschleiert oft die menschliche Arbeit und Wertvorstellungen dahinter und den enormen Ressourcenverbrauch der neuen Technologien. NINA HECHENBERGER erklärt, warum globale feministische Perspektiven auf Künstliche Intelligenz dringend notwendig sind.
Seit der Veröffentlichung von ChatGPT im November 2022 prägt Künstliche Intelligenz (KI) öffentliche Debatten, politische Strategien und den Arbeitsalltag vieler Menschen. Der Diskurs folgt dabei häufig zwei Extremen: KI erscheint entweder als nahezu allmächtige Lösung für komplexe Probleme oder aber als bedrohliches Zukunftsszenario, in dem Maschinen zunehmend über menschliche Entscheidungen bestimmen.
Maschinelles Lernen
KI basiert heute hauptsächlich auf maschinellem Lernen. Dabei lernen Algorithmen aus großen Datenmengen Muster zu erkennen und Aufgaben zu lösen, ohne dass jeder einzelne Schritt händisch programmiert werden muss. Das System verbessert sich durch wiederholtes Training mit Daten und vorgegebenen Zielen. So können moderne KI-Systeme komplexe Aufgaben wie Textgenerierung bewältigen und menschliche kognitive Fähigkeiten scheinbar nachahmen. Allerdings benötigt der Lernprozess immer menschliche Anleitung bei der Auswahl der Daten, der Modellstruktur und der Ziele.
Es gibt jedoch nicht „die eine künstliche Intelligenz“, sondern viele KI-Systeme, die Daten unterschiedlich verarbeiten und in diversen Modellen zur Verfügung stellen. Daten, die durch Menschen bereitgestellt, eingepflegt, „gesäubert“ und aussortiert werden – sei es durch die Bestätigung „Ich bin kein Roboter“ und das anschließende Klicken auf z. B. alle Bilder, die Ampeln oder Fahrräder enthalten, oder durch „Click-Worker“ im Globalen Süden.
Wenn heute von KI gesprochen wird, sind oft Large Languages Models (LLM) wie etwa ChatGPT oder Gemini gemeint. Das „pre-trained“ in Generative Pre-trained Transformer (GPT) bedeutet genau das und macht es erst möglich, dass computergesteuerte Systeme scheinbar „verstehen“. Bei allen Schritten sind Menschen und somit auch ihre Wertvorstellungen beteiligt. KI ist also weder „künstlich“ noch „intelligent“, sondern spiegelt gesellschaftliche Herrschaftssysteme und Verhältnisse wider.
Daten sind nie neutral
Tech-Konzerne sind meist wenig divers, wenn es um die Entscheidungsträger_innen innerhalb der Unternehmen geht. Der Silicon Valley Prototyp eines Entwicklers ist eher jung, weiß und männlich und definiert die eigene Sicht auf die Welt als „normal“. Diese Sicht spiegelt sich auch in der Auswahl und Bewertung der verwendeten Daten für KI-Systeme wider. Der Mangel an Diversität führt zu „blinden Flecken“ in der Entwicklung, wodurch geschlechtsbezogene Aspekte und Bedürfnisse marginalisierter Gruppen schlichtweg übersehen werden. Daraus ergibt sich eine perpetuierte Diskriminierung. Wie die politische Dimension sich auf KI-Systeme auswirken kann, wird schnell klar, wenn man die Liste der von der Trump-Administration in öffentlichen Dokumenten nun verbotenen Wörter ansieht: „Climate Crisis“, „Diversity“, „Feminism“ oder „Gender Identity“ sind nur einige Beispiele, die dadurch wahrscheinlich nicht mehr in den Trainingsdaten von US-basierten LLMs wie etwa ChatGPT oder Google Gemini berücksichtigt werden.
Gender Digital Divide
Auch in der Anwendung und im Zugang zur Nutzung von digitalen Technologien und KI-Systemen zeigen sich geschlechtsspezifische Ungleichheiten. Frauen nutzen fortgeschrittene digitale Technologien im Beruf seltener als Männer. Geprägt wird diese Ungleichheit durch sozioökonomische, kulturelle und bildungsbezogene Faktoren und betrifft besonders Frauen und Mädchen in Ländern des Globalen Südens und in ländlichen Regionen sowie einkommensschwache Bevölkerungsgruppen.
Gleichzeitig werden gesellschaftliche Vorurteile reproduziert. Beispiele dafür liefern Sprachassistenten wie Siri oder Alexa. Diese nutzen standardmäßig weibliche Stimmen und sind darauf programmiert, verbale Aggressionen der Nutzer_innen unterwürfig zu beantworten. Auch bei Bildgeneratoren zeigt sich der vorhandene Bias ganz deutlich: Suchen nach „CEO“ liefern überwiegend Bilder von weißen, älteren Männern, während bei einer Suche nach „Pflegekraft“ Bilder geliefert werden, die weiße Frauen Mitte zwanzig zeigen.
Ghost Work und Digitaler Kolonialismus
All diese technologischen Entwicklungen finden nicht im luftleeren Raum statt. KI-Systeme benötigen eine gewaltige Infrastruktur. Für die Herstellung von Computerchips zur Verarbeitung dieser enormen Datenmengen werden seltene Erden und Metalle benötigt, deren Abbau im Globalen Süden oft mit massiver Umweltverschmutzung und ausbeuterischen Arbeitsbedingungen einhergeht. Ein Großteil der scheinbar „intelligenten“ Arbeit dieser KI-Systeme wird im Verborgenen von Menschen geleistet – man spricht von „Ghost Work“ der digitalen Ökonomie. Damit KI-Modelle „verstehen“ lernen und Algorithmen scheinbar mühelos funktionieren, werden Daten von Menschen händisch klassifiziert und annotiert. Diesen Job erledigen so genannte „Click-Worker“. Oft im Globalen Süden ansässig arbeiten sie für etwa zwei bis drei Euro pro Stunde, ohne soziale Absicherung. Sie sind es auch, die dabei häufig psychisch belastenden Inhalten wie Gewalt oder Missbrauch ausgesetzt sind, um Daten für den globalen Markt zu „reinigen“. Damit kein Zusammenhang zu globalen Tech-Firmen hergestellt werden kann, und diese nicht für unzumutbare Arbeitsbedingungen verantwortlich gemacht werden können, werden Mittelsfirmen als Arbeitgeber eingesetzt.
Während die ökologischen Lasten und die Ausbeutung von Ressourcen und Arbeitskräften also den Globalen Süden betreffen, fließt der Profit fast ausschließlich zu den großen Tech-Giganten im Norden. In diesem Zusammenhang hat sich der Begriff des „Digitalen Kolonialismus“ etabliert.
Kritisches Hinterfragen
Wir erleben gerade eine massive Zunahme des Einflusses von Technologie auf unser alltägliches Leben. Viele von uns neigen zu einem „Automation Bias“ – einem blinden Vertrauen in die vermeintlich objektiven Daten, hervorgebracht durch vermeintlich objektive Systeme. Bei jeder jeder KI-Abfrage sollten wir uns aber daran erinnern, dass Daten eben niemals neutral sind, sondern immer abhängig davon, wer sie wie und unter welchen Gesichtspunkten verarbeitet hat.
Dennoch gibt es auch eine Vielzahl an positiven Errungenschaften. Etwa wird KI bei Bildgebungsverfahren in der diagnostischen Früherkennung von Krankheiten wie Brustkrebs erfolgreich angewendet und rettet so Leben. Im Alltag überzeugen Echtzeit-Übersetzungs- oder Textgenerierungstools in Form von LLMs und erleichtern uns so die Kommunikation in verschiedenen Sprachen oder auch das Verfassen von E-Mails.
Wir müssen nur erst lernen, damit umzugehen. Das erfordert Zeit, kritisches Hinterfragen und ein Bewusstsein darüber, dass auch unser digitales Verhalten massive Auswirkungen auf Mensch und Umwelt hat.
Nina Hechenberger gründete 2024 den Verein fair-digital.at, um ihre Expertise in der EZA und humanitären Hilfe mit der Welt der Digitalisierung und Künstlichen Intelligenz zu verbinden. Ihre Vision einer digitalen Transformation und Künstlichen Intelligenz, die fair, inklusiv und wertebasiert ist, vermittelt sie in Workshops und Vorträgen.
