Kontext
Der Vortrag thematisiert die Rolle von Künstlicher Intelligenz (KI) als soziotechnische Praxis, die gesellschaftliche Machtverhältnisse, Wissenshierarchien und Bias reproduziert. Hochschulen stehen dabei in besonderer Verantwortung, da sie demokratische Kultur prägen, Transformationsprozesse gestalten und zukünftige Entscheidungsträger:innen ausbilden. Die Referent:innen zeigen auf, warum Bias in KI-Systemen nicht einfach „wegtrainiert“ werden kann und wie Hochschulen durch Leitlinien, Beteiligungsformate sowie Lehr- und Governance-Strategien einen verantwortungsvollen Umgang mit KI fördern können.
Kernaussagen
1. KI als soziotechnische Praxis
- KI-Systeme sind keine neutralen Werkzeuge, sondern interagieren in einer Rückkopplungsschleife mit sozialen Normen, Machtverhältnissen und technischen Logiken.
- Soziale Praxis (Handlungen, Normen, Sprache) generiert Daten, auf denen KI-Modelle trainiert werden.
- Technische Praxis (KI-Outputs) beeinflusst wiederum menschliches Handeln und verstärkt bestehende Strukturen (z. B. Anpassung von Studierenden an KI-Detektoren).
- Diese Dynamik führt zu einer Verstärkung von Bias, da dominante Wissensbestände reproduziert und marginalisierte Perspektiven unsichtbar gemacht werden.
2. Entstehung von Bias auf vier Ebenen
Bias entsteht laut dem Vier-Ebenen-Modell nach Eva Gengnagel auf folgenden Stufen:
- Trainingsdaten:
- Historische Ungleichheiten (z. B. Amazon-EinstellungskI, die Frauen diskriminierte) und dominante Wissensbestände (westlich, englischsprachig) fließen ein.
- Marginalisierte Perspektiven (feministisch, postkolonial) sind unterrepräsentiert.
- Modellierung:
- Zielsetzungen der Modelle (z. B. Effizienz, wissenschaftliche Qualität) sind nicht neutral, sondern normativ geprägt.
- Beispiel: KI-Detektoren bewerten akademische Texte nach standardisierten Sprachmustern, die nicht-muttersprachliche Autor:innen benachteiligen.
- Entwicklung:
- Homogene Entwicklungsteams (überwiegend weiß, männlich) treffen Entscheidungen, die Machtkontexte widerspiegeln (z. B. Dominanz von US-amerikanischen und chinesischen KI-Systemen).
- Hochschulen legitimieren durch ihre Tool-Auswahl bestimmte KI-Systeme (z. B. OpenAI-Lösungen).
- Nutzung:
- Unkritische Übernahme von KI-Outputs verstärkt Bias, da Nutzer:innen diese als objektiv wahrnehmen.
- Beispiel: Studierende passen ihre Texte an KI-Detektoren an, was wissenschaftliche Vielfalt einschränkt.
3. Epistemische Hegemonie durch KI
- Large Language Models (LLMs) bevorzugen dominante, westlich geprägte Wissensbestände, da diese in Trainingsdaten überrepräsentiert sind.
- Marginalisierte Perspektiven werden nur auf explizite Nachfrage sichtbar – was voraussetzt, dass Nutzer:innen sich der Lücken bewusst sind.
- Folgen für Hochschulen:
- Wissenschaftliche Vielfalt wird gefährdet, da KI-Systeme bestehende Wissensordnungen zementieren.
- Beispiel: KI-gestützte Recherche reproduziert hegemoniale Narrative, statt alternative Quellen zu fördern.
4. Defizite in Hochschul-Leitlinien
- Ein Leitliniencheck von 30 deutschen Hochschulen (2024) zeigt:
- Nur ein Viertel der Leitlinien thematisiert Bias in KI-Systemen – meist als Aufzählung ohne vertiefte Auseinandersetzung.
- Bias wird fälschlicherweise als individuelles Problem der Nutzer:innen behandelt (z. B. „Inhalte kritisch prüfen“), statt als strukturelles Problem der Technologie.
- Es fehlen Unterstützungsangebote für Lehrende und Studierende, um Bias zu erkennen und zu vermeiden.
5. Handlungsempfehlungen für Hochschulen
- Bias-sensible KI-Kompetenz in der Lehre verankern:
- Kritische Reflexion über Datenlücken, Wissenshierarchien und algorithmische Bewertungen.
- Beispiel: KI-gestützte Recherche als Ergänzung, nicht als Ersatz für eigenständige Quellenarbeit.
- Diverse Entscheidungsstrukturen:
- Auswahl von KI-Systemen sollte in interdisziplinären Teams (inkl. Studierende, verschiedene Fachbereiche) erfolgen.
- Kritische Reflexion in Studium und Lehre:
- Raum für Diskussionen über Macht, Privilegien und Diskriminierung schaffen – sowohl in der analogen Welt als auch im Umgang mit KI.
- Verknüpfung mit Gleichstellungs- und Diversitätsstrategien:
- KI-Nutzung mit bestehenden Gleichstellungszielen verbinden, um strukturelle Benachteiligungen zu vermeiden.
Fazit
Hochschulen tragen eine doppelte Verantwortung:
- Epistemisch: Sie müssen sicherstellen, dass KI-Systeme wissenschaftliche Vielfalt nicht einschränken, sondern fördern.
- Gesellschaftlich: Durch die Ausbildung kritischer, bias-sensibler Absolvent:innen können sie langfristig die Datenbasis und damit die Entwicklung von KI beeinflussen.
Kernbotschaft:
Bias in KI ist kein technisches, sondern ein gesellschaftliches Problem. Die Lösung liegt nicht im „Wegtrainieren“ von Verzerrungen, sondern in der Verbesserung sozialer Praktiken – von der individuellen Reflexion über Lehrformate bis hin zu institutionellen Entscheidungsprozessen. Hochschulen müssen hier eine Vorreiterrolle einnehmen, um eine faire und inklusive Zukunft mitzugestalten.
