Joule-Wiki

SAP Generative AI Hub

4 Min. Lesezeit

SAP Generative AI Hub

Der SAP Generative AI Hub (auch „GenAI Hub”) ist kein Endanwender-Feature, sondern die zentrale, gesicherte Zugriffsschicht auf Large Language Models (LLMs) innerhalb der SAP AI Foundation auf der SAP BTP. Er regelt, welche Modelle ein Unternehmen nutzt, welche Daten es zu welchen Modellen schicken darf und wo die eigentliche LLM-Verarbeitung stattfindet. Aus Projektsicht: die Ebene, auf der Governance, Compliance und Kostensteuerung für SAP-KI-Workloads überhaupt möglich werden.

Erstnennung im Wiki über die Hartig-Quelle (April 2026).

Was der Hub macht

  1. Zentrale Zugriffsschicht zu einer Vielzahl von LLMs — SAP-eigene und Partner-Modelle. Freigaben („welches Team darf welches Modell für welchen Use Case”) werden zentral vergeben, nicht über individuelle API-Keys einzelner Abteilungen.
  2. Orchestration Service mit Datenanonymisierung — personenbezogene Daten werden erkannt und maskiert, bevor ein Prompt das Unternehmensnetzwerk verlässt. Nach der LLM-Antwort werden sie für den berechtigten Endanwender wieder demaskiert. Mechanismus zur DSGVO-Konformität, ohne dass die Fachprozesse darum kreisen müssen.
  3. Intelligentes LLM-Routing — Anfragen gehen je nach Konfiguration an ein externes LLM, ein LLM in einer SAP-verwalteten Private Cloud oder an ein LLM im eigenen Rechenzentrum des Kunden. Für Branchen mit höchsten Sicherheitsanforderungen (Finanz, Gesundheit) bleiben Daten so in der eigenen IT-Infrastruktur.
  4. Retrieval-Augmented Generation — statt ganzer Dokumente werden nur kontextbezogene Ausschnitte aus SAP-Systemen an das LLM geschickt. Details: RAG.

Wo der Hub im Gesamtbild sitzt

  Endanwender
       │
       ▼
  Joule / Joule Agents / Embedded AI      ← Säulen 1 & 2 der SAP-Strategie
       │
       ▼
  ┌──────────────────── AI Foundation (Säule 3, auf BTP) ────────────────────┐
  │                                                                          │
  │   Joule Studio                 GenAI Hub                                 │
  │   (Agenten/Skills bauen)       (LLM-Zugriff + Governance + Routing)      │
  │                                     │                                    │
  │                                     ▼                                    │
  │                      Orchestration Service  ─→  RAG  ─→  LLM             │
  │                      (Anonymisierung)                    (SAP, Partner,  │
  │                                                          Private Cloud,  │
  │                                                          Kunden-DC)      │
  └──────────────────────────────────────────────────────────────────────────┘

Mehr zur Einbettung: sap-ai-foundation.

Abgrenzung

  • GenAI Hub vs. Joule: Der Hub ist die Infrastruktur für LLM-Zugriffe. Joule ist die Nutzer- und Agenten-Schicht, die diese Infrastruktur konsumiert. Andere Anwendungen auf der BTP können den Hub ebenfalls nutzen, ohne über Joule zu gehen.
  • GenAI Hub vs. Joule Studio: Joule Studio ist das Designtool zum Bauen von Agenten und Skills. Der Hub ist die Laufzeitschicht für die LLM-Aufrufe, die diese Agenten intern machen. Beide leben in der AI Foundation.
  • GenAI Hub vs. Grounding: Grounding beschreibt aus SAP-Produktsicht, wie Joule sich an Geschäftsobjekte bindet. Der Hub liefert die technische Mechanik dafür (RAG, Orchestration Service).

Relevanz für ADVIA-Projekte

  • Governance-Gespräch mit IT und Datenschutz: In jedem ernsthaften Joule-Projekt wird die Datenschutz- und Berechtigungsfrage kommen, sobald KI über den Pilotenzaun hinausgeht. Der Hub ist die Antwort, die SAP selbst liefert — das müssen wir kennen und positionieren können.
  • Hosting-Option als Verkaufsargument: Finanz- und Gesundheitskunden lehnen externe LLMs häufig kategorisch ab. Die Routing-Option auf Private-Cloud- oder On-Premise-LLMs eröffnet Projekte, die sonst gar nicht stattfinden würden.
  • Einordnung in Enterprise-Architekturen: Wenn wir eine KI-Strategie für einen Kunden skizzieren, ist der Hub die Schicht, in die auch andere (Nicht-SAP-)Workloads laufen können sollten — und dieser Punkt gehört in jede Architektur-Folie.

Offene Fragen

  • Lizenzmodell / Abrechnung: Fließt GenAI-Hub-Verbrauch über SAP AI Units, oder gibt es eine separate SKU? In der Hartig-Quelle nicht behandelt.
  • Verfügbarkeit: Nur für RISE- und GROW-Kunden, oder auch für BTP-Standalone-Verträge? Zu verifizieren.
  • Supportierte Partner-LLMs konkret: Für den Entwickler-Kontext ist die Liste in der SAP-Community-Roadmap 2026 belegt: SAP, Microsoft, Amazon, IBM, OpenAI, Anthropic, Google, Mistral — deutlich breiter als die drei im Q1-2026-Release namentlich genannten Familien (GPT 5.2, Gemini 3.0 Pro, Claude Opus 4.6). Ob die Hub-Freigabe im Business-AI-Kontext identisch ausfällt oder auf die drei „großen” Familien beschränkt bleibt, ist noch offen.
  • Private-Cloud-Option: Welche LLMs lassen sich SAP-seitig zertifiziert privat hosten (Llama, Mistral, kundeneigene Modelle)?
  • Audit und Logging: Welche Events protokolliert der Hub out-of-the-box (welches Team, welches Modell, welcher Prompt-Typ)? Für EU-AI-Act-Compliance relevant — siehe eu-ai-act.

Verwandte Seiten

Quellen

← Konzepte · Inhaltsverzeichnis

Graphansicht

Backlinks