Bias in Sprachmodellen – Eine Herausforderung für Vielfalt und Inklusion
Impulsvortrag zu Bias in Sprachmodellen – DLC Beitrag zum FHW Diversity Day
Das Angebot findet im Rahmen der Diversity Day Veranstaltungen der Fachhochschule Westküste am 27.05.2025 von 14:00 bis 15:30 gesondert im Besprechungsraum des Fachbereiches Wirtschaft statt
An Sprachmodellen wie sie in vielen modernen KI-Anwendungen verwendet werden, kommt heutzutage praktisch kaum noch jemand vorbei. Diese können jedoch sowohl ein Segen der modernen Technologie, als auch ein Fluch für die Darstellung vielfältiger Bevölkerungsgruppen sein. Der Impulsvortrag beleuchtet die unterschiedlichen potenziellen Verzerrungen (Bias) welche innerhalb von Sprachmodellen auftauchen können. Durch die Art und Weise, wie die Modelle trainiert, und mit welchen Daten sie gefüttert werden, können sowohl negative Verzerrungen wie Age Bias, Geschlechterstereotypisierung oder religiöse Verzerrungen entstehen, als auch falsch positive Antworten, welche zu Inklusionsverzerrungen führen, ausgespuckt werden.
Diese Ergebnisse innerhalb der Modelle entstehen in der Regel aufgrund der Einspeisung von bestehenden gesellschaftlichen Vorurteilen, welche auf diskriminierende oder stereotypische Aussagen hinauslaufen, oder eben durch die gesonderte Einbeziehung sozialer Gruppen oder Identitäten ungeachtet des gegebenen Kontextes. Bias in Sprachmodellen betrifft deswegen nicht nur die Technologie des Modells selbst, sondern hat auch tiefgreifende Auswirkungen auf die gesellschaftliche Wahrnehmung von Vielfalt. Wenn KI-Systeme Vorurteile und Stereotype verstärken, können sie bestehende Ungleichheiten verstärken und Diskriminierung weiter verfestigen, oder im falsch positiven Fall die Wahrnehmung von Diversität und Inklusion in der Gesellschaft verzerren.
Der angebotene Impulsvortrag erklärt wie diese erwähnten Verzerrungen innerhalb der Sprachmodelle überhaupt entstehen, welche möglichen Konsequenzen diese Verzerrungen nach sich ziehen und gibt erste Ansätze um beidem entgegenzuwirken. Hierbei werden technische Herausforderungen ebenso angesprochen wie ethische und gesellschaftliche Fragestellungen, da ein bewusster Umgang mit Bias in KI und Sprachmodellen dazu beiträgt, Inklusion zu fördern und eine gerechtere Gesellschaft zu unterstützen.