Digital Learning Campus

Wortwolke

Zusammenfassung

Kontext

Der Vortrag diskutiert die Bedeutung von KI-Souveränität an Hochschulen und hinterfragt, ob der Aufbau eigener Rechenzentren mit Grafikkarten die einzige Lösung ist. Stattdessen wird argumentiert, dass die Kontrolle über Daten und Workflows (Daten-Souveränität) strategisch wichtiger ist als der Betrieb eigener Hardware (Inference-Souveränität). Anhand des open-source KI-Ökosystems Ethel und des open-weight Modells Apertus der ETH Zürich wird gezeigt, wie Hochschulen hybride KI-Systeme nutzen können, um Vendor-Lock-In zu vermeiden und gleichzeitig die Hoheit über eigene Daten zu bewahren.

Kernaussagen

1. Unterscheidung zwischen KI-Modellen und KI-Systemen

KI-Modelle (z. B. GPT, Gemini, Apertus) sind zustandslos („stateless“) und führen lediglich Inferenz durch (Prompt rein, Antwort raus). Sie speichern keine Nutzerdaten oder Gesprächshistorien.
KI-Systeme (z. B. ChatGPT, Ethel) umfassen das Frontend, die Nutzerverwaltung, Gesprächshistorien und hochgeladene Dokumente. Diese Komponenten sind entscheidend für die Datenhaltung und damit für die Souveränität.
Praktische Konsequenz: Modelle sind austauschbar, während das KI-System die eigentliche Kontrolle über Daten und Workflows behält.

2. Daten-Souveränität vs. Inferenz-Souveränität

Daten-Souveränität (Kontrolle über Daten, Workflows, Nutzerverwaltung) ist strategisch wichtiger als Inferenz-Souveränität (Betrieb eigener Hardware).
- Begründung: Vendor-Lock-In entsteht durch Abhängigkeit von proprietären Systemen (z. B. ChatGPT), nicht durch die Nutzung externer Modelle.
- Beispiel: Die ETH Zürich nutzt Ethel als eigenes KI-System, das verschiedene Modelle (z. B. GPT, Apertus) im Hintergrund einsetzt – ohne Daten an Drittanbieter zu verlieren.
Pragmatischer Ansatz: Der Betrieb von Modellen in der Cloud (z. B. Azure in Schweden) ist oft kostengünstiger und effizienter als der Aufbau eigener Rechenzentren, sofern rechtliche Rahmenbedingungen (z. B. Gerichtsstand Schweiz) eingehalten werden.

3. Grenzen von Open-Weight-Modellen

„Open Weight“ bedeutet nicht automatisch „Open Source“:
- Heruntergeladene Modelle bestehen aus Milliarden von Parametern (Gewichten), deren Trainingsdaten, Methoden und Biases nicht transparent sind.
- Ohne detaillierte Dokumentation bleibt eine Abhängigkeit vom Vertrauen in den Anbieter bestehen.
Fully Open Foundation Models (z. B. Apertus der ETH Zürich):
- Neben den Gewichten werden auch Trainingsartefakte, Code und Methoden offenlegt, um Auditierbarkeit und Compliance by Design zu ermöglichen.
- Ziel: Transparenz und Unabhängigkeit von proprietären Anbietern, auch wenn die Modelle nicht immer die Leistungsfähigkeit kommerzieller Alternativen erreichen.

4. KI in der Lehre: Feedback und Prüfungskorrektur

Retrieval Augmented Generation (RAG):
- KI-Systeme wie Ethel nutzen kurspezifisches Material (Skripte, Folien, Übungsblätter), um Studierenden sofortiges, präzises Feedback zu geben – ohne das Modell neu trainieren zu müssen.
- Beispiel: Studierende erhalten Erklärungen zu Übungsaufgaben basierend auf den hochgeladenen Vorlesungsunterlagen.
Prüfungskorrektur mit „Human-in-the-Loop“:
- KI kann Klausuren vorbewerten, wobei Studierende ein Veto-Recht haben. Bei Widerspruch erfolgt eine manuelle Korrektur durch Lehrpersonal.
- Vorteile:
  - Deutlich schnellere Rückmeldung (innerhalb von Stunden statt Wochen).
  - Geringe Fehlerquote (<2 % false positives, ähnlich wie menschliche Korrektor:innen).
  - Skalierbar für große Studierendenzahlen (z. B. 10.000 Prüfungen pro Semester).
- Kosten: Ca. 0,80 € pro Prüfung bei Nutzung von Cloud-Inferenz.

5. Didaktische Souveränität: KI als Werkzeug, nicht als Ersatz

Kritik an „Personalisierter KI“:
- KI sollte nicht als Ersatz für Lehrende oder Campus-Kultur dienen, sondern als Werkzeug zur Skalierung guter Lernpraktiken.
- Gefahr: Wenn Studierende nur noch mit KI interagieren, verliert die Hochschule ihre didaktische Souveränität und Attraktivität.
Empfehlungen für die Lehre:
- Fokus auf prozessorientierte Prüfungen (z. B. Papier-und-Bleistift-Klausuren), um Lösungswege statt Endergebnisse zu bewerten.
- Stärkung der Campus-Kultur durch:
  - Projektarbeiten,
  - Peer-Instruction,
  - Experimentiermöglichkeiten in sicheren Umgebungen.
- KI als Hintergrundwerkzeug einsetzen, um Lehrende zu entlasten – nicht als zentrales Element der Lehre.

Fazit

Handlungsempfehlungen für Hochschulen:
1. Daten-Souveränität priorisieren: Eigene KI-Systeme (z. B. Ethel) aufbauen, um Nutzerdaten, Workflows und Modellwechsel zu kontrollieren – unabhängig davon, wo die Inferenz stattfindet.
2. Hybride Lösungen nutzen: Open-Weight-Modelle (z. B. Apertus) mit Cloud-Inferenz kombinieren, um Flexibilität und Kosteneffizienz zu gewährleisten.
3. KI didaktisch sinnvoll einsetzen: KI als Werkzeug zur Skalierung von Feedback und Korrekturen nutzen, ohne die menschliche Interaktion und Campus-Kultur zu ersetzen.
4. Transparenz und Auditierbarkeit: Bei der Entwicklung eigener Modelle (z. B. Apertus) auf vollständige Offenlegung von Trainingsdaten und Methoden achten, um Abhängigkeiten zu vermeiden.
Kernbotschaft:

„Souveränität entsteht nicht durch den Besitz von Hardware, sondern durch die Kontrolle über Daten, Workflows und didaktische Prozesse. KI ist ein Werkzeug – nicht der Ersatz für gute Lehre.“

Fragen & Antworten

Warum ist die Daten-Souveränität wichtiger als die Inferenz-Souveränität (der Betrieb eigener Hardware)?

Vendor-Lock-In entsteht nicht durch die Hardware, sondern durch die Abhängigkeit von proprietären Systemen, die Nutzerverwaltung und Gesprächshistorien kontrollieren. Wenn die Hochschule das KI-System (Frontend und Datenhaltung) selbst kontrolliert, bleiben die Modelle im Hintergrund austauschbar.

Was ist der Unterschied zwischen 'Open Weight'-Modellen und wirklich 'Open Source' bzw. 'Fully Open' Modellen?

Open Weight bedeutet lediglich, dass man die Modellparameter (Gewichte) herunterladen kann, ohne jedoch Einblick in Trainingsdaten oder Methoden zu haben. Fully Open Modelle wie Apertus legen zusätzlich Trainingsartefakte, Code und Dokumentationen offen, um Auditierbarkeit und Transparenz zu gewährleisten.

Ist die Nutzung von Cloud-Inferenz (z. B. Microsoft Azure in Schweden) mit dem Ziel der Souveränität vereinbar?

Ja, sofern ein Rahmenvertrag besteht, der das Training mit eigenen Daten ausschließt und der Gerichtsstand in der Schweiz liegt. Der Betrieb in der Cloud ist oft kosteneffizienter und zuverlässiger als ein eigenes Produktionsrechenzentrum.

Wie kann KI bei der Prüfungskorrektur eingesetzt werden, ohne die Fairness zu gefährden?

KI wird zur Vorbewertung genutzt, wobei ein 'Human-in-the-Loop'-Ansatz verfolgt wird: Studierende haben ein Veto-Recht gegen die KI-Bewertung, woraufhin eine manuelle Korrektur durch Lehrpersonal erfolgt.

Wie wird verhindert, dass KI-Modelle in der Lehre allgemeine Antworten geben statt sich auf die Kursinhalte zu beziehen?

Es wird Retrieval Augmented Generation (RAG) eingesetzt. Dabei sucht das System in den hochgeladenen Kursmaterialien (Skripte, Folien) nach relevanten Informationen und nutzt diese als Basis für die Antwort des Modells.

Diagramm

100%

mindmap
  root)Daten- vs. Inference-Souveränität in der Hochschul-KI(
    ["KI-Modelle vs. KI-Systeme"]
      ["Modelle: zustandslos, Inferenz"]
      ["Systeme: Datenhaltung, Nutzerverwaltung"]
    ["Daten-Souveränität"]
      ["Kontrolle über Workflows, Nutzerdaten"]
      ["Vendor-Lock-In vermeiden"]
    ["Inferenz-Souveränität"]
      ["Hardware-Betrieb weniger entscheidend"]
      ["Cloud-Inferenz oft effizienter"]
    ["Open-Weight-Modelle"]
      ["Nicht gleich Open Source"]
      ["Transparenz fehlt oft"]
    ["KI in der Lehre"]
      ["RAG für Feedback"]
      ["Human-in-the-Loop Korrektur"]
    ["Didaktische Souveränität"]
      ["KI als Werkzeug, nicht Ersatz"]
      ["Campus-Kultur stärken"]

Wo sind meine Daten? Daten- versus Inference-Souveränität