Was ist souveräne KI?

Souveräne KI klingt modern und faszinierend – fast wie ein internationales James-Bond-Team, das ein streng geheimes unterirdisches Data Center bewacht. Doch im Gegensatz zu einem Bond-Film ist souveräne KI real und praxisnah – und sie betrifft weit mehr als nur die nationale Sicherheit. Durch klare Richtlinien zur Governance und technische Sorgfalt kann souveräne KI dazu beitragen, Unternehmenswerte zu schützen, die Privatsphäre der Kunden zu wahren und die öffentliche IT-Infrastruktur besser gegen böswillige Angriffe zu sichern.

Im Wesentlichen basiert souveräne KI auf soliden IT-Sicherheitspraktiken, die von nationalen Gesetzen oder Branchenstandards beeinflusst werden. Ihr Unternehmen könnte es heute oder in naher Zukunft als notwendig erachten, souveräne KI aktiv einzuführen – und selbst wenn nicht, lohnt es sich, entsprechende Praktiken und Richtlinien in Betracht zu ziehen.

Was ist souveräne KI?

Einfach ausgedrückt zielt souveräne KI darauf ab, die nationale Entwicklung und Nutzung von KI sicherzustellen – einschließlich der Daten, die für das Training verwendet werden, der Informationen, die eine KI bei der Verarbeitung von Anfragen analysiert, sowie der Inhalte, die sie als Ergebnis generiert.

In diesem Zusammenhang kann souveräne KI alle Arten von Technologien umfassen, die unter den Begriff „künstliche Intelligenz“ fallen – wie z. B. Machine Learning zur Erkennung von Datentrends und Anomalien, den Einsatz von Convolutional Neural Networks für Mustererkennung oder Objekterkennung sowie die Erzeugung von Bildern, Klängen oder Texten durch Generative KI. Souveräne KI bezieht sich zudem auf Regelungen, die den Einsatz von KI-Technologien betreffen, beispielsweise in Bezug auf Datenschutz.

Sie steht in engem Zusammenhang mit, ist jedoch nicht identisch zu, der Datensouveränität. Diese legt fest, dass Unternehmen nationale Vorgaben berücksichtigen müssen, wo ihre Daten gespeichert, verarbeitet und über Netzwerke übertragen werden dürfen. Ein Beispiel für eine solche Regelung ist die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union. Unternehmen können bereits heute Praktiken einführen, die es ihnen erleichtern, sich an künftige Vorschriften anzupassen. So verfügen die meisten Organisationen bereits über Richtlinien zur Daten-Governance, die als Grundlage dienen können. Wenn Unternehmen diese Richtlinien frühzeitig auf KI ausweiten – wie bereits in Pilotphasen –, können sie potenzielle Probleme vermeiden und den Rahmen für zulässige Anwendungen klar definieren. KI-Systeme erfordern zudem oft spezifische Regelungen, die berücksichtigen, wie und wo die Modelle trainiert wurden und auf welche Weise sie auf die Daten einer Organisation zugreifen. So lässt sich sicherstellen, dass die Systeme verantwortungsvoll eingesetzt werden und die bestmöglichen Ergebnisse liefern.

Souveräne KI im Vergleich zur öffentlichen KI

Souveräne KI-Systeme speichern und verwalten KI-Modelle sowie Daten – einschließlich Betriebs- und Trainingsdaten –, die nationalen oder regionalen Vorschriften unterliegen können. Sie regeln außerdem, dass KI-Anwendungen nur von autorisierten Personen und Systemen genutzt werden dürfen. Souveräne KI-Lösungen finden sich vor allem bei Regierungen, staatlichen Auftragnehmern und Dienstleistern, Organisationen im öffentlichen Sektor sowie in Unternehmen, die mit regulierten Daten und Anwendungen arbeiten.

„Öffentliche KI“ hingegen umfasst alle anderen Anwendungen und Daten, die nicht den Anforderungen souveräner KI oder vergleichbaren Compliance-Vorgaben unterliegen. Diese Kategorie umfasst eine Vielzahl von Verbraucheranwendungen und Unternehmensnetzwerken. Dazu gehören beispielsweise die in Google Chat und den KI-Funktionen von Facebook eingesetzten LLMs sowie zahlreiche Bildgeneratoren, Nachrichtenaggregatoren, Videokonferenzsysteme und Übersetzungstools. Allerdings gilt nicht jede Verbraucher-KI automatisch als „öffentliche KI“. Auch Banken, Gesundheitsorganisationen, Bildungseinrichtungen und andere Institutionen können ein Interesse an souveräner KI haben.

Wichtige Erkenntnisse

• Souveräne KI steht in engem Zusammenhang mit Datensouveränität, erweitert diesen Begriff jedoch auf neue Technologien und Datenanwendungen – einschließlich KI-Modelle.
• Diese Kategorie umfasst den Einsatz von generativer KI und Machine Learning, wenn diese Systeme mit Datenquellen trainiert werden oder darauf zugreifen, die rechtlichen oder sonstigen Einschränkungen unterliegen.
• Mit Partnern, die Lösungen für Souveränitätskontrollen anbieten, kann eine verteilte Cloud-Infrastruktur dazu beitragen, Anforderungen an souveräne KI ebenso zu erfüllen wie Vorgaben zu Datenresidenz, Datenschutz und Zugriffskontrolle.

Souveräne KI einfach erklärt

Souveräne KI ist ein weit gefasster Begriff, der sich auf die Kontrolle von KI-Systemen bezieht, die durch rechtliche oder territoriale Vorgaben beeinflusst werden können. Ein zentrales Ziel souveräner KI besteht darin, sicherzustellen, dass sensible Daten eine Gerichtsbarkeit nicht verlassen oder nicht von unbefugten Personen eingesehen werden können.

Im Zusammenhang mit souveräner KI sind sechs zentrale Aspekte zu berücksichtigen: die geltenden Vorschriften für die eigene Organisation verstehen, die bevorzugte KI-Infrastruktur festlegen, Maßnahmen zur Datenresidenz umsetzen, Datenschutzkontrollen einrichten, rechtliche Rahmenbedingungen schaffen und die gesamte KI-Umgebung absichern.

• Vorschriften verstehen. Kennen Sie die Anforderungen an die Datensouveränität in Ihrem Land oder Ihrer Region? Wenn ja, gehören Sie vermutlich zur Minderheit. Diese Vorschriften sind oft komplex. Im Zusammenhang mit KI-Souveränität müssen Sie zunächst die Regeln zur Datensouveränität berücksichtigen und darüber hinaus prüfen, wie Daten zum Trainieren von Algorithmen verwendet werden und welche Ergebnisse fertige KI-Modelle liefern.

• Bevorzugte KI-Infrastruktur festlegen. Ihre KI-Lösungen können On-Premises, in der Cloud, in einem Hybridmodell oder über mehrere Clouds hinweg implementiert werden. Am einfachsten lässt sich eine solche Infrastruktur in der Cloud aufbauen und verwalten, wo Ihr Anbieter Sie bei Fragen unterstützen und eine Vielzahl von KI-Services bereitstellen kann.

  Wenn Sie sich für die Cloud entscheiden, sollten Sie Ihr bevorzugtes Modell festlegen: Suchen Sie nach einer Software-as-a-Service-Lösung, die Unternehmenssoftware mit integrierten KI-Funktionen bietet? Oder nach Platform-as-a-Service-Angeboten, die zahlreiche KI-Tools bereitstellen, mit denen Sie eigene Systeme zusammenstellen können? Oder bevorzugen Sie Infrastructure as a Service, bei dem Sie Server und Netzwerke mieten und alles selbst aufbauen? Auch Kombinationen dieser Modelle sind möglich. Ihre Wahl bestimmt letztlich, welche Maßnahmen erforderlich sind, um den Anforderungen souveräner KI gerecht zu werden.

• Implementierung von Datenresidenz-Kontrollen. Nachdem Sie Ihre Infrastruktur festgelegt haben, sollten Sie prüfen, wie viel Ihrer Daten, Anwendungen und Ihres Netzwerkverkehrs innerhalb nationaler Grenzen oder Ihrer bevorzugten Region verbleibt. Wenn Ihr Anbieter Sie bei Fragen zur Datensouveränität unterstützen kann, wird auch der Umgang mit KI-Souveränität deutlich einfacher.

  Je nach Cloud-Anbieter können Sie häufig sehr fein abgestimmte Kontrollen für Daten, Anwendungen, Netzwerke, Rechenressourcen und Benutzerzugriffe einrichten. Abhängig von Ihrer Branche und Ihren spezifischen Anforderungen kann es ausreichend sein, eine kommerzielle Public-Cloud-Lösung mit Regionen in mehreren Ländern zu nutzen. In anderen Fällen kann jedoch eine speziell für Behörden konzipierte Cloud erforderlich sein, die zusätzliche Sicherheits- und Compliance-Anforderungen erfüllt. In der Europäischen Union kann beispielsweise eine EU-souveräne Cloud die richtige Wahl sein. In manchen Szenarien möchten Sie möglicherweise eine vollständige Cloud-Umgebung in Ihrem eigenen Data Center betreiben – Oracle bezeichnet dies als „Dedicated Region“. Ebenso könnten isolierte Cloud-Regionen sinnvoll sein, die wie eine Cloud-Umgebung funktionieren, jedoch vollständig vom Internet getrennt betrieben werden.

  Alle diese Optionen sollten Teil Ihres Programms zur KI-Souveränität sein.

• Einrichtung von Datenschutzkontrollen. Während sich die Datenresidenz darauf bezieht, wo Daten gespeichert werden, konzentriert sich der Datenschutz darauf, welche Art von Daten verarbeitet wird und wie sie verwendet werden darf. Dürfen Benutzer personenbezogene Informationen sehen oder nur aggregierte Ergebnisse aus einem Datenbericht? Welche Art von Antworten darf eine generative KI auf Anfragen geben? Diese Fragen können komplex sein, und Ihre Software benötigt möglicherweise ein flexibles Zugriffskontrollsystem, um verschiedene Nutzungsszenarien abzudecken.

  Oft reicht es nicht aus, lediglich den Zugriff auf einen generativen KI-Chatbot zu beschränken. Ihr Chatbot selbst muss so konzipiert sein, dass er je nach Anfrage angemessen reagiert. Die gute Nachricht ist, dass große Cloud-Anbieter, insbesondere solche mit SaaS-Anwendungen, in der Regel Erfahrung im Umgang mit diesen komplexen Anforderungen haben und ihre Datenschutzkontrollen zunehmend auch auf KI-Agenten und andere KI-Tools ausweiten.

  Darüber hinaus kann es erforderlich sein, bei der Nutzung von KI in der Cloud klare Kontrollen darüber einzuführen, wer aus betrieblicher oder interner Sicht auf Daten zugreifen darf. In einigen Fällen lässt sich dies durch starke Verschlüsselung mit Schlüsseln lösen, die vom Kunden bereitgestellt und von lokalen Anbietern verwaltet werden. In anderen Fällen sind zertifizierte Betriebs- und Supportteams erforderlich.

• Einrichtung rechtlicher Kontrollen. Die Einhaltung gesetzlicher Vorschriften kann komplex sein. Selbst innerhalb eines Unternehmens können je nach Datentyp unterschiedliche Anforderungen gelten – wie z. B. bei Mitarbeiterdaten, Gesundheitsinformationen, Finanzdaten oder geistigem Eigentum. Für multinationale Konzerne ergeben sich daraus unzählige Kombinationen und Abhängigkeiten.

  An diesem Punkt empfiehlt es sich, juristischen Rat einzuholen. IT-Planer können ihren Rechtsabteilungen helfen, die technischen Aspekte der Compliance zu verstehen, während Anwälte die IT dabei unterstützen, Systeme so zu gestalten, dass rechtliche Risiken minimiert werden. Externe Berater können zusätzlich bei Bewertungen und Tests unterstützen.

  Ein weiterer wichtiger Punkt bei der Auswahl von Lösungsanbietern ist, ob diese über die rechtlichen und regionalen Voraussetzungen verfügen, um Ihre Compliance-Anforderungen zu erfüllen. Wenn Sie beispielsweise in der Europäischen Union tätig sind, sollten Sie sicherstellen, dass Ihr KI-Cloud-Anbieter entsprechende Hosting-Optionen innerhalb der EU anbietet.

• Absicherung des KI-Stacks. Möglicherweise möchten Sie, dass Ihre KI-Systeme denselben Sicherheitsrichtlinien unterliegen wie Ihre bestehende IT-Infrastruktur – gleichzeitig erfordert der Einsatz von KI jedoch oft zusätzliche Prüfungen und Schutzmaßnahmen. Es ist zwar eher selten, dass Unternehmen ihre eigenen KI-Systeme vollständig trainieren, doch wenn Sie dies tun, sollten Sie Tests durchführen, um Ihr proprietäres Trainingsmaterial zu schützen. Häufiger werden Sie Ihre KI mit eigenen Daten versorgen, beispielsweise über Retrieval-Augmented Generation (RAG). In diesem Fall sollten Sie Tests einplanen, um Szenarien zu erkennen, in denen Benutzer durch gezielte Eingaben Zugriff auf Informationen erhalten könnten, für die sie keine Berechtigung haben.

  Wird bei der Implementierung versäumt, Benutzerrollen, Standorte und weitere Faktoren bis in die Datenabfrage-Engine hinein zu berücksichtigen, kann dies zu Datenlecks führen, die die Compliance Ihres Systems gefährden. Neben der Gefahr unberechtigter Zugriffe müssen Sicherheitsmaßnahmen im KI-Stack auch Ausfälle und Datenpannen adressieren, die durch böswillige Angriffe oder regionale Katastrophen verursacht werden können. Diese Risiken – verschärft durch mögliche Identitätsdiebstähle infolge KI-generierter Inhalte – erfordern robuste Cybersicherheitsstrategien, die eine verantwortungsvolle Daten-Governance unterstützen. Ergänzend dazu sollte eine redundante Infrastruktur bereitgestellt werden, um die Resilienz innerhalb der jeweiligen Gerichtsbarkeit zu gewährleisten.

Warum ist souveräne KI wichtig?

Souveräne KI ist – ähnlich wie Datensouveränität – von großer Bedeutung, da sie Unternehmen dabei unterstützt, sicherzustellen, dass nur autorisierte Personen und Systeme Zugriff auf transformative Technologien, moderne Rechenplattformen, Netzwerkinfrastrukturen, Anwendungen, geistiges Eigentum und geschützte Daten erhalten.

Die sich rasant entwickelnde Landschaft der souveränen KI veranlasst viele Unternehmen, ihre gesamte IT-Umgebung zu überprüfen und ihre Dienstanbieter gezielt nach Angeboten im Bereich souveräner KI zu befragen. Souveräne KI-Lösungen erfordern klar definierte und konsequent umgesetzte Zugriffsrichtlinien – nicht nur, um die Einhaltung geltender Gesetze und Vorschriften zur Datensouveränität sicherzustellen. Auch wenn externe Faktoren häufig als Auslöser solcher Initiativen dienen, sind Maßnahmen zur souveränen KI in jedem Fall eine sinnvolle und zukunftsorientierte Entscheidung.

Vorteile souveräner KI

Souveräne-KI-Anforderungen können eine zusätzliche Ebene von Compliance und Governance in IT- und Geschäftsprozesse einbringen. Diese erweiterte Compliance-Arbeit kann jedoch auch erhebliche Vorteile mit sich bringen:

• Geschäftschancen. Da Regierungen und andere Organisationen zunehmend versuchen, die innerhalb ihrer Grenzen generierten Daten zu kontrollieren, könnten sie von ihren Partnern verlangen, die Prinzipien souveräner KI einzuhalten. Unternehmen, die hier frühzeitig handeln, können sich dadurch einen klaren Wettbewerbsvorteil sichern.
• Erhöhte Sicherheit. Implementierung souveräner KI-Funktionen kann Unternehmen dabei helfen, Anwendungen, Infrastrukturen und kritische Daten besser zu schützen.
• Größeres regulatorisches Verständnis. Da sich Vorschriften ständig ändern, kann die Entwicklung hin zu souveräner KI Teams dabei unterstützen, die Ziele von Regierungen und Aufsichtsbehörden besser zu verstehen.

Herausforderungen der souveränen KI

Mit der Berücksichtigung souveräner KI können Kosten verbunden sein. Hier sind einige der Herausforderungen im Zusammenhang mit souveräner KI:

• Rechtskosten. Unternehmen müssen möglicherweise verschiedene Regierungen und Rechtssysteme analysieren und anschließend komplexe, teils widersprüchliche Vorschriften klären, um ein Programm für souveräne KI umzusetzen. Ein Großteil dieser Arbeit wird voraussichtlich durch Rechtsberater erfolgen.
• Langsamer Wandel. Jedes Compliance-Projekt hat seinen eigenen Zeitplan, der von der Zusammenarbeit mit verschiedenen Institutionen – darunter Regierungen und Aufsichtsbehörden – abhängt. Das kann in bestimmten Bereichen zu langsamen Fortschritten führen, wobei die Termine oft außerhalb der eigenen Kontrolle liegen.
• Personalkosten. Möglicherweise müssen neue Mitarbeiter oder externe Berater eingestellt werden, um sowohl bei rechtlichen Aufgaben als auch bei der Umsetzung technischer Lösungen zu unterstützen. Da es sich um ein neues Themenfeld handelt, kann es schwierig und kostspielig sein, qualifiziertes Personal oder geeignete Berater zu finden.
• Technische Komplexität. Die Herausforderungen souveräner KI können Änderungen an der IT-Infrastruktur und der Anwendungslandschaft erforderlich machen. Daten müssen möglicherweise von einer Region in eine andere migriert werden. Zudem kann es notwendig sein, neue Software zu entwickeln oder bestehenden Code anzupassen, um Compliance-Anforderungen zu erfüllen.

Die Zukunft der souveränen KI

„Mehr.“ Das ist die treffende Ein-Wort-Zusammenfassung für die Zukunft souveräner KI. Zudem ist zu erwarten, dass neue KI-Technologien und Anwendungsfälle weitere Vorschriften nach sich ziehen werden. Bilder? Videos? Soziale Medien? Überall dort, wo Unternehmensdaten mit KI in Berührung kommen – und wo Kunden oder Mitarbeiter KI einsetzen –, werden Themen rund um souveräne KI eine Rolle spielen.

Wie können Sie sich am besten auf dieses komplexe und sich ständig wandelnde regulatorische Umfeld vorbereiten? Die anfängliche Arbeit, die richtigen Servicepartner zu finden, Architekturen und Datenmodelle mit strengen Sicherheitsvorkehrungen auszuwählen und umfassende Berechtigungen einzurichten, mag jetzt zusätzlichen Aufwand bedeuten – doch sie wird sich auszahlen, wenn Sie Ihre Ziele im Bereich souveräne KI verwirklichen.

Wie kann OCI Ihnen helfen, Ihre Ziele im Bereich KI-Souveränität zu erreichen?

Wenn die KI-Initiativen Ihres Unternehmens Cloud-Computing nutzen – sei es in einer einzelnen Cloud, einer Multicloud- oder einer Hybridarchitektur – bietet Oracle die passenden Tools und Technologien. Das Herzstück ist Oracle Cloud Infrastructure (OCI), eine leistungsstarke Plattform, um eigene KI-Anwendungen zu entwickeln oder bestehende Anwendungen mit KI-Funktionen zu erweitern. Oracle und OCI unterstützen souveräne KI und Datensouveränität in fünf zentralen Bereichen: KI-Angebot, Datenresidenz, Datenschutz, rechtliche Kontrolle und Sicherheit. Die Suite aus KI-Services und KI-gestützten Anwendungen von Oracle verbindet modernste intelligente Funktionen mit hochsicheren, skalierbaren Anwendungen. Die Datenresidenzfunktionen von Oracle helfen dabei, Ihre Daten innerhalb der Grenzen Ihres Landes, Ihrer Region oder einer anderen Rechtsordnung zu halten. Standardmäßig werden alle Ihre Daten und Metadaten auf eine einzelne Oracle Cloud-Region beschränkt. Mit Dedicated Cloud werden Ihre Daten zudem physisch von denen anderer Regionen getrennt.

Oracle unterstützt Sie bei der Verwaltung von KI-Modellen und stellt mithilfe fortschrittlicher Sicherheitsfunktionen sicher, dass Zugriffsrechte konsequent eingehalten werden – selbst dann, wenn das zugrunde liegende Modell intern entwickelt oder von einem Drittanbieter bezogen wurde. Im Bereich rechtlicher Rahmenbedingungen und Kontrollen arbeitet Oracle mit mehr als 80 Aufsichtsbehörden und Zertifizierungsstellen zusammen und verfügt über die US-Verteidigungszertifizierung „Impact Level 6“. Zusätzliche Tools helfen dabei, Ihre LLMs und andere KI-Ressourcen während des gesamten KI-Cloud-Lebenszyklus zu verwalten und zu prüfen. Weitere Informationen finden Sie in KI-Innovation: 5 Schlüsselelemente für souveräne KI.

Souveräne KI ist bereits Realität

Wir sind alle mit Anforderungen an die Datensouveränität vertraut – daher überrascht es nicht, dass auch für künstliche Intelligenz ähnliche Vorschriften entstehen könnten. Souveräne KI lässt sich als Erweiterung der Datensouveränität verstehen, um die neuen Technologien abzudecken, die den KI-Technologiestack bilden – einschließlich Trainingsdaten, LLMs und Machine-Learning-Algorithmen. Es gibt zwar neue Anwendungsfälle, doch die bekannten Themen wie Sicherheit, Datenschutz, Datenresidenz, Zugriffssteuerung und rechtliche Fragen bleiben bestehen. Betrachten Sie souveräne KI als Chance, Best Practices umzusetzen, um Ihr Unternehmen und Ihre Kunden – ebenso wie Ihr Land und Ihre Region – zu schützen. Mit dem richtigen Technologiepartner ist diese Herausforderung eine lohnende Aufgabe.

Häufig gestellte Fragen zur souveränen KI

Ist souveräne KI dasselbe wie Datensouveränität?

Im Allgemeinen konzentriert sich Datensouveränität auf die Daten selbst, während sich souveräne KI auf die Entwicklung und Kontrolle von KI-Systemen innerhalb einer bestimmten Rechtsordnung bezieht – einschließlich der Daten, die diese Systeme verwenden.

Welche Branchen sind am stärksten von souveräner KI betroffen?

Viele Unternehmen und Organisationen haben bereits heute oder werden künftig Anforderungen im Bereich souveräner KI erfüllen müssen. Besonders betroffen sind die Bereiche Militär und Verteidigung, Gesundheitswesen, Bildung, Finanz- und Bankwesen sowie kritische Infrastrukturen. Auch die IT-Branche selbst kann in den Anwendungsbereich souveräner KI fallen.

Ist souveräne KI teuer?

Es entstehen immer Kosten, wenn man sich proaktiv auf Compliance vorbereitet. Zu den größten erwarteten Ausgaben im Bereich souveräner KI zählen das Verständnis und die laufende Anpassung an die regulatorischen Rahmenbedingungen in den Gerichtsbarkeiten, in denen Ihr Unternehmen tätig ist und in denen Ihre Stakeholder ansässig sind. Hinzu können Kosten für Compliance-Tests und Zertifizierungen kommen. Technologische Ausgaben lassen sich jedoch durch die Zusammenarbeit mit geeigneten Partnern und eine vorausschauende Systemgestaltung, die künftige Anforderungen berücksichtigt, deutlich reduzieren.