Übersicht über die KI Dienste der GWDG

Die KI-Dienste der GWDG bieten eine vielseitige Plattform für praxisnahe KI Anwendungen. Das Portfolio reicht von einem Chatbot mit erweiterten Fähigkeiten (z. B. Retrieval Augmented Generation, Tool Integration, MCP) über Sprachtranskription bis hin zur Bildbearbeitung.

Alle Dienste können komfortabel über eine Weboberfläche genutzt oder über eine OpenAI kompatible API nahtlos in bestehende Systeme eingebunden werden.

Entwickelt im Rahmen des Projekts KISSKI (KI Servicezentrum für sensible und kritische Infrastrukturen) erfüllen die Angebote hohe Datenschutzanforderungen und eignen sich dadurch besonders für sensible Einsatzszenarien.

SAIA

SAIA ist ein von der GWDG entwickelter skalierbarer KI-Beschleuniger (Scalable Artificial Intelligence Accelerator). Er hostet die GWDG-KI-Dienste und bietet eine Plattform für die Implementierung der einzelnen KI-Dienste. SAIA-API-Schlüssel (Application Programming Interface) können angefordert und verwendet werden, um die KI-Dienste auch per API nutzen zu können.

Dokumentation 📖 Link zum Tool 🔗

Chat AI

Chat AI ist ein eigenständiger Webdienst für LLMs (Large Language Models), der Nutzern Zugriff auf eine stetig wachsende Anzahl von LLMs gibt, die mittels SAIA gehostet werden. Chat AI wird auf Cloud-VMs der GWDG mit sicherem Zugriff auf die HPC-Systeme betrieben. Dabei werden die Nutzerdaten nicht von der GWDG gespeichert, es sei denn, dies ist für die Abrechnung oder den Betrieb des Dienstes notwendig (bspw. zur Unterscheidung zwischen Browsern auf Smartphones und Desktops oder RAG). Neben dem Deployment von State-of-the-Art-LLMs ist Chat AI um weitere Techniken wie Tools, MCP, Websuche und RAG erweitert.

Dokumentation 📖 Link zum Tool 🔗

Arcana/RAG

Der Arcana-Dienst ist ein von der GWDG entwickelter RAG-Service. Modelle von Chat AI verwenden im Hintergrund RAG (Retrieval-Augmented Generation), um Dateien zu verarbeiten und sie als Grundlage und Referenz für Antworten zu verwenden. Dies führt oft zu besseren und sachlich korrekteren Antworten. Arcanas können mit Kollegen oder der Öffentlichkeit geteilt werden.

Dokumentation 📖 Link zum Tool 🔗

CoCo AI

CoCo AI (Code Completion) bietet KI-Unterstützung beim Programmieren. Dieser Dienst basiert auf LLMs, die von der GWDG mittels SAIA betrieben werden. Viele Code-Editoren bieten eine LLM-Integration, die von Nutzenden selbstständig eingerichtet werden kann. Die GWDG bietet Dokumentationen zur Verwendung der „Continue“-Erweiterung für Visual Studio Code (VSCode) sowie für den Zed-Editor an.

Dokumentation 📖

Voice AI

Voice AI ist ein Transkriptions- und Untertitelungsdienst der GWDG. Er kann sowohl in einer Live-Präsentation eingesetzt werden als auch vorhandene Audiodateien transkribieren.

Dokumentation 📖 Link zum Tool 🔗

Image AI

Image AI ist ein Dienst der GWDG, der Nutzenden die Möglichkeit bietet, Bilder mittels Prompt-Eingabe zu generieren oder Bilder basierend auf Nutzer-Prompts zu bearbeiten.

Dokumentation 📖 Link zum Tool 🔗

Protein AI

Der Service „Protein AI” der GWDG ermöglicht die automatisierte Vorhersage von Proteinstrukturen mithilfe von KI-Methoden. Dabei kommen die Modelle AlphaFold2 bzw. Boltzmann-basierte Varianten zum Einsatz, um Vorhersagen für unterschiedliche Proteine zu generieren. Zusätzlich wird MMseqs2 integriert, sodass die Ergebnisse mit etablierten, nicht KI-basierten Verfahren vergleichbar sind. Der Dienst liefert strukturierte Ausgaben, die für weiterführende Analysen und Anwendungen in der Bioinformatik genutzt werden können.

Dokumentation 📖 Link zum Tool 🔗