Hinweis: Die Inhalte auf dieser Seite wurden teilweise von KI generiert und können Fehler enthalten.
„Wenn wir über KI Chatbot und mentale Gesundheit sprechen, sollten zuerst über Ziele und Grenzen sprechen.“
„Ich würde sagen, dass wir vor allem darauf achten sollten, KI nicht als menschlichen Ersatz zu konzipieren, sondern als Ergänzung zu menschlichen Beratungsangeboten.“
„Ich glaube eben, dass wir ganz, ganz viele Probleme und Gefahren damit vielleicht in den Griff kriegen könnten, dass wir einfach gerade Studierende oder Betroffene darin son bisschen schulen, also was Chatbots eben können und was sie auch nicht können.“
Die Diskussion thematisierte den Einsatz von KI-gestützten Chatbots im Hochschulkontext zur Unterstützung des mentalen Wohlbefindens (Wellbeing) von Studierenden und Mitarbeitenden. Ausgangspunkt war die Beobachtung, dass sich zunehmend Menschen – insbesondere junge Erwachsene – mit privaten Sorgen, Ängsten oder Leistungsdruck an KI-Chatbots wenden. Die zentrale Fragestellung lautete:
Die Session verband Expertise aus KI-Forschung, Hochschulpraxis, studentischer Perspektive und Wellbeing-Initiativen, um Chancen, Grenzen und Risiken von Chatbots zu diskutieren.
Saskia Beckmann (Hochschule Rhein-Waal):
Vanessa Mai (TH Köln):
Milena Stegner (DHBW Heilbronn/KI-Campus):
Roksana Inga Rybicka (Studentin, Europa-Universität Viadrina):
Saskia Beckmann:
Vanessa Mai:
Milena Stegner:
Roksana Inga Rybicka:
Die Diskutant:innen skizzierten folgende Idealvorstellung:
Kontakt und weiterführende Materialien
Es gibt hier unterschiedliche Ansichten: Während sie präventiv wirken und frühzeitig an Beratungsstellen verweisen können, besteht die Gefahr einer Individualisierung, bei der Hochschulen ihre Verantwortung für menschliche Angebote reduzieren.
Durch kontextsensibles Design und die Einbeziehung der Zielgruppen in die Entwicklung. Chatbots können hier als niedrigschwelliger Einstieg dienen, um basale Informationslücken zu schließen und Inklusion zu fördern.
Durch die aktive Förderung von KI-Kompetenzen und die Schaffung von Reflexionsräumen in den Curricula, in denen Studierende lernen, den Output von KI kritisch zu hinterfragen, anstatt ihm blind zu vertrauen.
Dies wird als eine der offenen Fragen im Bereich Datenschutz und Ethik identifiziert, für die es im Rahmen der Diskussion noch keine abschließende Antwort gab.
Die Diskussion markiert dies als eine zentrale offene Frage zur ethischen Gestaltung und zum Datenschutz, die bei der Implementierung solcher Systeme gelöst werden muss.
| Begriff | Definition |
|---|---|
| Digital Wellbeing | Das mentale Wohlbefinden und die psychische Gesundheit von Personen im Kontext der Nutzung digitaler Technologien. |
| Path Out of Your Problems | Ein Projekt zur Entwicklung eines KI-basierten Chatbots, der insbesondere internationale Studierende niedrigschwellig an Beratungsstellen verweist. |
| KI-Psychose | Ein Phänomen, bei dem Nutzer durch die bestärkenden Antworten einer KI in ihren Ansichten oder Wahnzuständen gefestigt werden. |
| Deskilling | Der Verlust von kognitiven Fähigkeiten oder kritischem Denkvermögen durch eine übermäßige Abhängigkeit von KI-Systemen. |
| Conversation Design | Die gezielte Gestaltung der Interaktionsstruktur und des Empathielevels eines Chatbots, um eine natürliche und hilfreiche Nutzererfahrung zu schaffen. |
| Strukturelle Stressoren | Systemimmanente Belastungsfaktoren im Hochschulalltag, wie etwa hoher Leistungsdruck oder Einsamkeit, die nicht allein durch individuelle digitale Lösungen gelöst werden können. |
| KI-Kompetenzen | Die Fähigkeit, KI-Systeme kritisch zu reflektieren, deren Funktionsweise zu verstehen und deren Output hinterfragen zu können. |
| Hybrid-Angebote | Die Kombination aus KI-gestützten digitalen Tools und menschlicher Beratung, um eine ganzheitliche Unterstützung zu gewährleisten. |
mindmap
root)KI-Chatbots und Digital Wellbeing(
["Bedarfe und Nutzungskontexte"]
["Niedrigschwellige Orientierungshilfe"]
["Selbstreflexionstool bei Prüfungsangst"]
["Risiken von Abhängigkeit und Deskilling"]
["Gestaltung und Rahmenbedingungen"]
["Interdisziplinäre Teams"]
["Hybride Angebote mit menschlicher Beratung"]
["KI-Kompetenzen fördern"]
["Ambivalenzen und offene Fragen"]
["Chatbots als Ergänzung, nicht Ersatz"]
["Strukturelle Stressoren adressieren"]
["Datenschutz und Ethik"]
["Handlungsempfehlungen"]
["Zielgruppen einbinden"]
["Transparenz schaffen"]
["KI-Kompetenzen vermitteln"]
["Vision für 2026"]
["Chatbots als eine Option von vielen"]
["Mental Health in Curricula verankern"]