Hinweis: Die Inhalte auf dieser Seite wurden teilweise von KI generiert und können Fehler enthalten.
„Wir können nicht einfach nur Technik von KI von Bias bereinigen, solange es in den Daten, so lang es in solchen Gesellschaften auch vorherrscht, wird es immer wieder den Weg in die Daten in die Modelle finden.“
„Wir zementieren da eigentlich schon eine Hegemonie drinne in unseren Wissensbeständen [...] und dementsprechend ist das eine zentrale Frage für uns, mit der sich Hochschulen beschäftigen müssen, als Wissensinstitution.“
„Unsere Vorstellung von Hochschule beziehungsweise auch wie kann man eigentlich mit weißen KI umgehen, ist, dass wir KI nicht durch bessere Modelle gestalten, sondern durch bessere soziale Praktiken.“
Der Vortrag thematisiert die Rolle von Künstlicher Intelligenz (KI) als soziotechnische Praxis, die gesellschaftliche Machtverhältnisse, Wissenshierarchien und Bias reproduziert. Hochschulen stehen dabei in besonderer Verantwortung, da sie demokratische Kultur prägen, Transformationsprozesse gestalten und zukünftige Entscheidungsträger:innen ausbilden. Die Referent:innen zeigen auf, warum Bias in KI-Systemen nicht einfach „wegtrainiert“ werden kann und wie Hochschulen durch Leitlinien, Beteiligungsformate sowie Lehr- und Governance-Strategien einen verantwortungsvollen Umgang mit KI fördern können.
Bias entsteht laut dem Vier-Ebenen-Modell nach Eva Gengnagel auf folgenden Stufen:
Hochschulen tragen eine doppelte Verantwortung:
Kernbotschaft: Bias in KI ist kein technisches, sondern ein gesellschaftliches Problem. Die Lösung liegt nicht im „Wegtrainieren“ von Verzerrungen, sondern in der Verbesserung sozialer Praktiken – von der individuellen Reflexion über Lehrformate bis hin zu institutionellen Entscheidungsprozessen. Hochschulen müssen hier eine Vorreiterrolle einnehmen, um eine faire und inklusive Zukunft mitzugestalten.
| Begriff | Definition |
|---|---|
| Soziotechnische Praxis | Ein Konzept, bei dem soziale Praktiken (Normen, Handlungen) und technische Logiken in einer gegenseitigen Rückkopplungsschleife interagieren und sich verstärken. |
| Bias | Systematische Verzerrungen in KI-Systemen, die durch historische Ungleichheiten in Trainingsdaten oder normative Entscheidungen in der Modellierung entstehen. |
| Vier-Ebenen-Modell nach Eva Gengnagel | Ein Analysemodell zur Entstehung von Bias, das die Stufen Trainingsdaten, Modellierung, Entwicklung und Nutzung unterscheidet. |
| Epistemische Hegemonie | Die Zementierung dominanter, meist westlich geprägter Wissensordnungen durch KI-Systeme, wodurch marginalisierte Perspektiven unsichtbar werden. |
| Large Language Models (LLMs) | KI-Modelle, die auf großen Textmengen trainiert werden und aufgrund von Wahrscheinlichkeiten dominante Wissensbestände bevorzugen. |
| KI-Detektoren | Werkzeuge zur Erkennung von KI-generierten Texten, die durch die Bevorzugung standardisierter Sprachmuster nicht-muttersprachliche Autor:innen benachteiligen können. |
| Leitliniencheck | Eine Untersuchung von Hochschul-Leitlinien zur KI-Nutzung, die aufzeigt, dass Bias oft nur als individuelles statt als strukturelles Problem behandelt wird. |
mindmap
root)Bias, Macht und Zukunftsverantwortung von Hochschulen(
["KI als soziotechnische Praxis"]
["Rückkopplungsschleife mit sozialen Normen"]
["Verstärkung von Bias durch Dominanz"]
["Vier-Ebenen-Modell von Bias"]
["Trainingsdaten: Historische Ungleichheiten"]
["Modellierung: Normative Zielsetzungen"]
["Entwicklung: Homogene Teams"]
["Epistemische Hegemonie durch KI"]
["Dominanz westlicher Wissensbestände"]
["Gefahr für wissenschaftliche Vielfalt"]
["Defizite in Hochschul-Leitlinien"]
["Bias als individuelles Problem"]
["Fehlende Unterstützungsangebote"]
["Handlungsempfehlungen"]
["Bias-sensible KI-Kompetenz lehren"]
["Diverse Entscheidungsstrukturen"]
["Verknüpfung mit Diversitätsstrategien"]