Digital Learning Campus

Foliensatz

Wortwolke

Zusammenfassung

Kontext

Die Diskussion thematisierte den Einsatz von KI-gestützten Chatbots im Hochschulkontext zur Unterstützung des mentalen Wohlbefindens (Wellbeing) von Studierenden und Mitarbeitenden. Ausgangspunkt war die Beobachtung, dass sich zunehmend Menschen – insbesondere junge Erwachsene – mit privaten Sorgen, Ängsten oder Leistungsdruck an KI-Chatbots wenden. Die zentrale Fragestellung lautete:

Wie können Hochschulen Chatbots so gestalten und einsetzen, dass sie mentale Gesundheit und Teilhabe fördern, ohne Verantwortung zu individualisieren?
Wem kommen solche Angebote zugute – und wer profitiert möglicherweise nicht?
Wie lassen sich strukturelle Stressoren (z. B. Leistungsdruck, Einsamkeit) durch digitale Lösungen adressieren, ohne sie zu ignorieren?

Die Session verband Expertise aus KI-Forschung, Hochschulpraxis, studentischer Perspektive und Wellbeing-Initiativen, um Chancen, Grenzen und Risiken von Chatbots zu diskutieren.

Kernaussagen

1. Bedarfe und Nutzungskontexte von Chatbots

Position A: Chatbots als niedrigschwellige Orientierungshilfe

Saskia Beckmann (Hochschule Rhein-Waal):
- Chatbots eignen sich besonders für basale Informationsanfragen (z. B. Wohnungsvermittlung, Krankenversicherung, Studienorganisation), die für internationale Studierende oft unklar sind.
- Beispiel: Das Projekt Path Out of Your Problems zielt darauf ab, Studierende zu Beratungsstellen zu verweisen, ohne die Selbstwirksamkeit zu untergraben (z. B. durch automatisierte E-Mails).
- Herausforderung: Interkulturelle Unterschiede in der Problemformulierung erfordern kontextsensible KI-Designs.
Vanessa Mai (TH Köln):
- Chatbots können als Selbstreflexionstool dienen (z. B. bei Prüfungsangst), indem sie Fragen statt Ratschläge stellen (z. B. „Woran merkst du, dass du Prüfungsangst hast?“).
- Studienlage: 9 von 10 Studierenden berichten von Prüfungsangst – Chatbots bieten hier akute Entlastung außerhalb regulärer Beratungszeiten.
- Grenze: Menschliche Beratung bleibt essenziell für komplexe Themen (z. B. Trauer, Beziehungsprobleme).

Position B: Risiken von Abhängigkeit und Deskilling

Milena Stegner (DHBW Heilbronn/KI-Campus):
- Studien zeigen: 12 % der Jugendlichen nutzen Chatbots, weil sie niemanden sonst zum Reden haben (bei benachteiligten Gruppen: 23 %).
- Gefahren:
  - KI-Psychose: Chatbots bestärken Nutzer:innen in ihren Ansichten (z. B. Studie zu reduzierter Entschuldigungsbereitschaft nach Streit).
  - Deskilling: Kritisches Denken leidet, wenn Nutzer:innen sich auf KI verlassen (z. B. Gehirnscans zeigen reduzierte Aktivität bei KI-Nutzung).
- Potenzial: Chatbots können Inklusion fördern (z. B. für neurodivergente Studierende) und Motivation für reale Kontakte steigern.
Roksana Inga Rybicka (Studentin, Europa-Universität Viadrina):
- Studentische Perspektive:
  - Chatbots werden genutzt, um Leistungsdruck (z. B. Drittversuch) oder Einsamkeit zu kompensieren – oft aus Mangel an Alternativen.
  - Kritik: Blindes Vertrauen in KI-Output (z. B. juristische Auskünfte) kann zu Fehlentscheidungen führen.
  - Forderung: Kostenlose KI-Modelle und kritische Reflexion des Outputs (z. B. „Wer trainiert die KI?“).

2. Gestaltung und Rahmenbedingungen

Position A: Konzeptionelle Leitplanken

Saskia Beckmann:
- Ziele und Grenzen müssen vorab definiert werden (z. B. „Der Chatbot verweist, schreibt aber keine E-Mails“).
- Interdisziplinäre Teams sind essenziell (Jurist:innen, IT, Beratungsstellen, Studierende).
- Lesson Learned: Technologische Entwicklung ist schnell – Flexibilität im Projektmanagement ist entscheidend.
Vanessa Mai:
- Gesamtkonzept: Chatbots sollten hybrid gedacht werden (Kombination mit menschlicher Beratung).
- Conversation Design: Empathielevel der KI muss ausbalanciert sein (zu empathisch wirkt unnatürlich).
- Curriculare Verankerung: Mental Health und KI-Kompetenzen sollten fester Bestandteil des Studiums sein (z. B. akademisches Mentoring).

Position B: KI-Kompetenzen als Schlüssel

Milena Stegner:
- Kritische Reflexion muss aktiv gefördert werden (z. B. durch Live-Diskussionsformate in Kursen).
- Studien zeigen: Jugendliche sind kritischer gegenüber KI als oft angenommen – sie wünschen sich Schulungen von Hochschulen.
- Gefahr: KI kann soziale Ungleichheit verstärken, wenn nur zahlungskräftige Nutzer:innen Premium-Modelle nutzen.
Roksana Inga Rybicka:
- Transparenz: Studierende sollten in die Entwicklung einbezogen werden (z. B. Definition von KPIs).
- Regeln: Klare Nutzungsrichtlinien (z. B. „Der Chatbot ist kein Ersatz für psychologische Beratung“).
- Wunsch: Wahlfreiheit zwischen KI und menschlichen Angeboten.

3. Ambivalenzen und offene Fragen

Mehrheitsmeinung: Chatbots als Ergänzung, nicht Ersatz

Alle Diskutant:innen betonten, dass Chatbots kein Ersatz für menschliche Beratung sein können, sondern niedrigschwellige Ergänzung (z. B. für akute Fragen oder Selbstreflexion).
Vorteil: 24/7-Verfügbarkeit, bewertungsfreie Interaktion (Studien zeigen: Nutzer:innen öffnen sich schneller gegenüber Maschinen).

Minderheitsmeinung: Skepsis gegenüber Technologiegläubigkeit

Milena Stegner warnte vor überstürzter Einführung ohne ausreichende KI-Kompetenzen.
Roksana Inga Rybicka kritisierte die Kommerzialisierung von KI (z. B. kostenpflichtige Premium-Modelle).

Uneinigkeit: Umgang mit strukturellen Stressoren

Frage: Können Chatbots strukturelle Probleme (z. B. Leistungsdruck, Einsamkeit) lösen – oder lenken sie davon ab?
- Saskia Beckmann: Chatbots können präventiv wirken (z. B. frühzeitige Weiterleitung an Beratungsstellen).
- Milena Stegner: Gefahr der Individualisierung – Chatbots dürfen nicht dazu führen, dass Hochschulen ihre Verantwortung für menschliche Angebote reduzieren.

Offene Fragen

Datenschutz und Ethik:
- Wie lassen sich anonymisierte Chatverläufe nutzen, ohne die Privatsphäre zu verletzen?
- Wer haftet für fehlerhafte KI-Antworten (z. B. bei psychischen Krisen)?
Zielgruppen:
- Wie erreicht man benachteiligte Gruppen (z. B. internationale Studierende, neurodivergente Personen), die Chatbots besonders nutzen?
Langfristige Wirkung:
- Führen Chatbots zu mehr Selbstwirksamkeit – oder zu passiver Konsumhaltung?
Curriculare Integration:
- Wie lassen sich KI-Kompetenzen flächendeckend in Studiengänge einbinden?

Ergebnis

Vorläufige Klarstellungen

Chatbots sind kein Allheilmittel, aber ein nützliches Tool für spezifische Bedarfe (z. B. Informationsvermittlung, Selbstreflexion).
Menschliche Beratung bleibt unverzichtbar – Chatbots können Brücken bauen, aber nicht ersetzen.
KI-Kompetenzen sind zentral, um kritischen Umgang mit Chatbots zu fördern (z. B. Reflexion von Bias, Grenzen der Technologie).

Handlungsempfehlungen für Hochschulen

Zielgruppen einbinden:
- Studierende und Beratungsstellen von Anfang an in die Entwicklung einbeziehen.
Transparenz schaffen:
- Klare Kommunikation über Funktionen und Grenzen des Chatbots (z. B. „Keine Therapie!“).
Hybride Angebote:
- Chatbots mit menschlichen Beratungsstrukturen verknüpfen (z. B. automatische Weiterleitung bei Krisen).
KI-Kompetenzen vermitteln:
- Kurse und Diskussionsformate anbieten, um kritische Reflexion zu fördern.
Prävention stärken:
- Chatbots nutzen, um frühzeitig auf Beratungsangebote aufmerksam zu machen.

Ausblick: Vision für 2026

Die Diskutant:innen skizzierten folgende Idealvorstellung:

Milena Stegner: „Chatbots sind eine Option von vielen – Studierende können wählen, ohne auf sie angewiesen zu sein.“
Vanessa Mai: „Mental Health und KI-Kompetenzen sind fester Bestandteil der Curricula.“
Saskia Beckmann: „Studierende finden direkt die richtige Beratungsstelle – ohne Umwege.“
Roksana Inga Rybicka: „Kritischer Umgang mit KI ist selbstverständlich – wie Zitierregeln.“

Kontakt und weiterführende Materialien

Die Folien und zitierten Studien werden auf der Veranstaltungsplattform hochgeladen.
Kontaktdaten der Diskutant:innen:
- Lea Hildermeier: lea.hildermeier@che.de
- Saskia Beckmann: saskia.beckmann@hochschule-rhein-waal.de
- Milena Stegner: milena.stegner@dhbw.de
- Vanessa Mai: vanessa.mai@th-koeln.de
- Roksana Inga Rybicka: roksana.rybicka@gmail.com

Fragen & Antworten

Können Chatbots strukturelle Probleme wie Leistungsdruck oder Einsamkeit lösen oder lenken sie eher davon ab?

Es gibt hier unterschiedliche Ansichten: Während sie präventiv wirken und frühzeitig an Beratungsstellen verweisen können, besteht die Gefahr einer Individualisierung, bei der Hochschulen ihre Verantwortung für menschliche Angebote reduzieren.

Wie kann man benachteiligte Gruppen, wie internationale oder neurodivergente Studierende, gezielt erreichen und unterstützen?

Durch kontextsensibles Design und die Einbeziehung der Zielgruppen in die Entwicklung. Chatbots können hier als niedrigschwelliger Einstieg dienen, um basale Informationslücken zu schließen und Inklusion zu fördern.

Wie lässt sich die Gefahr des 'Deskilling' (Verlust kritischen Denkens) durch die Nutzung von KI verhindern?

Durch die aktive Förderung von KI-Kompetenzen und die Schaffung von Reflexionsräumen in den Curricula, in denen Studierende lernen, den Output von KI kritisch zu hinterfragen, anstatt ihm blind zu vertrauen.

Wer haftet für fehlerhafte KI-Antworten, insbesondere in psychischen Krisensituationen?

Dies wird als eine der offenen Fragen im Bereich Datenschutz und Ethik identifiziert, für die es im Rahmen der Diskussion noch keine abschließende Antwort gab.

Wie können anonymisierte Chatverläufe genutzt werden, ohne die Privatsphäre der Nutzer zu verletzen?

Die Diskussion markiert dies als eine zentrale offene Frage zur ethischen Gestaltung und zum Datenschutz, die bei der Implementierung solcher Systeme gelöst werden muss.

Diagramm

100%

mindmap
  root)KI-Chatbots und Digital Wellbeing(
    ["Bedarfe und Nutzungskontexte"]
      ["Niedrigschwellige Orientierungshilfe"]
      ["Selbstreflexionstool bei Prüfungsangst"]
      ["Risiken von Abhängigkeit und Deskilling"]
    ["Gestaltung und Rahmenbedingungen"]
      ["Interdisziplinäre Teams"]
      ["Hybride Angebote mit menschlicher Beratung"]
      ["KI-Kompetenzen fördern"]
    ["Ambivalenzen und offene Fragen"]
      ["Chatbots als Ergänzung, nicht Ersatz"]
      ["Strukturelle Stressoren adressieren"]
      ["Datenschutz und Ethik"]
    ["Handlungsempfehlungen"]
      ["Zielgruppen einbinden"]
      ["Transparenz schaffen"]
      ["KI-Kompetenzen vermitteln"]
    ["Vision für 2026"]
      ["Chatbots als eine Option von vielen"]
      ["Mental Health in Curricula verankern"]

Fürsorge oder Funktion? KI-Chatbots und Digital Wellbeing