Session-Dokumentation • Input • Deutsch

Wir schaffen das - zusammen: dezentrale souveräne KI-Infrastruktur

Cover-Bild für Wir schaffen das - zusammen: dezentrale souveräne KI-Infrastruktur

Hinweis: Die Inhalte auf dieser Seite wurden teilweise von KI generiert und können Fehler enthalten.

Wortwolke

KI-generierter Inhalt

Zusammenfassung

KI-generierter Inhalt

Kontext

Der Vortrag thematisiert die Bedeutung digitaler Souveränität für Hochschulen und Forschungseinrichtungen, insbesondere im Bereich der KI-Infrastruktur. Angesichts globaler Abhängigkeiten von großen Tech-Konzernen (Big Tech) wird diskutiert, wie eine eigenständige, dezentrale und skalierbare KI-Infrastruktur aufgebaut werden kann. Das Projekt Open Source KI NRW dient als Beispiel für einen „Bottom-up-Ansatz“, der schnelles Prototyping, lokale Ressourcen und iterative Weiterentwicklung nutzt, um Souveränität und Resilienz zu stärken.


Kernaussagen

1. Digitale Souveränität als demokratischer Prozess

  • Digitale Souveränität wird als Fähigkeit definiert, technologische Schlüsseltechnologien (z. B. KI) wissenschaftlich mitzugestalten, um Entscheidungsfreiheit zu sichern und Abhängigkeiten von externen Anbietern zu reduzieren.
  • Sie ist kein statisches Produkt, sondern ein kontinuierlicher, partizipativer Prozess, der aktive Beteiligung von Entwickler:innen und Nutzer:innen erfordert.
  • Quellen: Definitionen der Bundeszentrale für politische Bildung (BPB) und des Bundesministeriums für Bildung und Forschung (BMBF).

2. Drei zentrale Faktoren für souveräne KI-Infrastruktur

  • Kapital, Personal und Wissen sind interdependent:
    • Kapital fließt primär in Personal, um Wissen zu generieren.
    • Wissen wird durch Personal in die Infrastruktur zurückgeführt und kann langfristig Kapital (z. B. durch Einsparungen) generieren.
  • Personal ist das zentrale Element: Ohne qualifizierte Mitarbeiter:innen kann Infrastruktur nicht betrieben oder weiterentwickelt werden.

3. Bottom-up-Ansatz: Schnelles Prototyping und lokale Ressourcen

  • Der Aufbau begann mit minimalen Mitteln (z. B. vorhandene Hardware, Open-Weight-Modelle wie Llama 2) und kleinen Teams (3 Personen).
  • Ziel: Erste funktionierende Anwendungen (z. B. Anbindung an Learning-Management-Systeme wie Moodle) schaffen, um Akzeptanz und Erfahrung zu sammeln.
  • Beispiel: Innerhalb von 3 Monaten (Oktober–Dezember 2023) wurde ein Prototyp an der Ruhr-Universität Bochum entwickelt.

4. NRW Gateway: Dezentrale Skalierung und Resilienz

  • Das NRW Gateway fungiert als Schnittstelle, die Anfragen per Load Balancing auf verschiedene Rechenzentren (z. B. Köln, RWTH Aachen) verteilt.
  • Vorteile:
    • Skalierbarkeit: Nutzung lokaler Ressourcen ohne zentrale Steuerung.
    • Resilienz: Ausfälle einzelner Standorte werden kompensiert.
    • Autonomie: Standorte behalten Kontrolle über ihre Infrastruktur und Modelle.
  • Praxistest: Seit April 2026 im „Best-Effort“-Betrieb mit über 100.000 potenziellen Nutzer:innen.

5. Akzeptanz und praktische Erkenntnisse

  • Hardware-Bedarf: Der tatsächliche Bedarf für KI-Inferenz ist geringer als angenommen – lokale Infrastruktur reicht oft aus.
  • Nutzererfahrung: Technische Stabilität und Geschwindigkeit sind entscheidend für Akzeptanz. Schlechte erste Erfahrungen führen zu langfristiger Ablehnung.
  • Wissenstransfer: Erfolg basiert auf kontinuierlichem Lernen, Fehleranalyse und Multiplikation von Wissen zwischen Standorten.

Fazit

Digitale Souveränität im KI-Bereich ist kein einmaliges Projekt, sondern ein fortlaufender Prozess, der Partizipation, Wissenstransfer und iterative Entwicklung erfordert. Der vorgestellte Ansatz zeigt, dass:

  • Dezentrale Infrastrukturen (wie das NRW Gateway) Skalierbarkeit und Resilienz ermöglichen, ohne Autonomie einzubüßen.
  • Bottom-up-Strategien mit geringen Ressourcen realisierbar sind, wenn Personal und Wissen im Mittelpunkt stehen.
  • Langfristiger Erfolg von der Einbindung aller Akteur:innen (Entwickler:innen, Nutzer:innen, Politik) abhängt.

Handlungsempfehlung: Hochschulen und Forschungseinrichtungen sollten:

  1. Lokale Ressourcen (Hardware, Open-Source-Modelle) nutzen, um erste Prototypen zu entwickeln.
  2. Kooperationen zwischen Standorten fördern, um Wissen zu teilen und Skaleneffekte zu erzielen.
  3. Nutzerfeedback aktiv einbinden, um technische Stabilität und Akzeptanz zu sichern.
  4. Politische Unterstützung einfordern, um nachhaltige Finanzierung und Personalausstattung zu gewährleisten.

Diagramm

KI-generierter Inhalt
100%
mindmap
  root)Dezentrale souveräne KI-Infrastruktur(
    ["Digitale Souveränität"]
      ["Demokratischer Prozess"]
      ["Partizipation aller Akteure"]
    ["Drei zentrale Faktoren"]
      ["Kapital für Personal"]
      ["Wissen durch Personal"]
    ["Bottom-up-Ansatz"]
      ["Schnelles Prototyping"]
      ["Lokale Ressourcen nutzen"]
    ["NRW Gateway"]
      ["Load Balancing"]
      ["Skalierbarkeit & Resilienz"]
    ["Akzeptanz & Erkenntnisse"]
      ["Technische Stabilität"]
      ["Wissenstransfer"]