Was versteht man unter souveräner KI?

Sovereign AI klingt modern und cool, wie ein internationales Spionageteam von James Bond, das ein supergeheimes Underground-Data Center bewacht. Anders als in einem Bond-Film ist souveräne KI real, praxisnah – und betrifft weit mehr als nur die nationale Sicherheit. Solide Governance-Richtlinien für souveräne KI und technische Sorgfalt können dazu beitragen, Unternehmensvermögen zu schützen, die Privatsphäre der Kunden zu schützen und die Infrastruktur für zivile Computer vor böswilligen Akteuren zu schützen.

Zum größten Teil hängt souveräne KI von soliden IT-Sicherheitspraktiken ab, die von nationalen Gesetzen oder Industriestandards beeinflusst werden. Ihre Organisation hält es möglicherweise für notwendig, souveräne KI jetzt oder in naher Zukunft zu nutzen - und selbst wenn dies nicht der Fall ist, sollte sie diese Praktiken und Richtlinien trotzdem übernehmen.

Was versteht man unter souveräner KI?

Einfach gesagt, souveräne KI zielt darauf ab, die inländische Produktion von KI sicherzustellen, einschließlich Daten, die zur Schulung der KI verwendet werden, die von der KI untersucht werden, wenn sie eine Abfrage erforscht und als Antwort auf eine Abfrage von der KI generiert wird.

In diesem Zusammenhang kann souveräne KI jede oder alle Arten von Technologien umfassen, die als "künstliche Intelligenz" bezeichnet werden, einschließlich maschinellem Lernen, um Datentrends zu verstehen und Anomalien zu erkennen; Verwendung von neuronalen Faltungsnetzen zur Mustererkennung oder Objektidentifizierung; und Bilder, Klänge oder Text, die von generativer KI erstellt werden. Souveräne KI kann auch Regeln für die Verwendung von KI-Technologien beinhalten, z. B. Regeln zum Datenschutz.

Sie könnten souveräne KI als einen Bezug zur Datensouveränität betrachten, der jedoch nicht mit ihr übereinstimmt. Hier muss ein Unternehmen oder eine Organisation nationale Regeln darüber berücksichtigen, wo seine Daten gespeichert und verarbeitet werden können, selbst wie sie über Netzwerke übertragen werden. Ein Beispiel für eine Souveränitätsregel wäre die DSGVO der Europäischen Union. Unternehmen können jetzt Praktiken befolgen, die es einfacher machen könnten, die Compliance bei der Weiterentwicklung von Regeln zu berücksichtigen. Beispielsweise verfügen die meisten Unternehmen über Data Governance-Richtlinien. Eine frühzeitige Ausweitung dieser Richtlinien auf KI in Studien kann Probleme vermeiden und zulässige Verwendungszwecke steuern. KI-Systeme erfordern möglicherweise auch eindeutige Regeln, die berücksichtigen, wie und wo KI-Modelle trainiert wurden sowie wie und wo sie auf die Daten eines Unternehmens zugreifen, während sie arbeiten, um die nützlichsten Ergebnisse zu liefern.

Souveräne KI im Vergleich zu öffentlicher KI

Souveräne KI-Systeme speichern und verwalten KI-Modelle und -Daten, die Betriebs- und Schulungsdaten umfassen können, die nationalen oder regionalen Vorschriften und Einschränkungen hinsichtlich der Verwendung von KI-Anwendungen durch nur autorisierte Personen und Systeme unterliegen. Sie finden souveräne KI-Lösungen, die von Regierungen, staatlichen Auftragnehmern und Serviceanbietern, Organisationen, die für Regierungen arbeiten, und allen Unternehmen verwendet werden, die regulierte Daten und Anwendungen haben.

Sie können "öffentliche KI" als alles andere betrachten, d. h. Anwendungen und Daten, die nicht souveränen KI-Überlegungen und anderen Compliance-Anforderungen unterliegen. Diese Liste umfasst eine breite Palette von Verbraucheranwendungen und Geschäftsnetzwerken. Denken Sie an die LLMs, die für Google Chat und die KI-Funktionen von Facebook verwendet werden, sowie an viele Bildgeneratoren, Nachrichtenaggregatoren, Videokonferenzsysteme und Sprachübersetzer. Allerdings würden nicht alle Verbraucher-KI-Software als "öffentliche KI" angesehen. Banken, Gesundheitsorganisationen, Bildungseinrichtungen und andere könnten an souveräner KI interessiert sein.

Wichtige Erkenntnisse

• Souveräne KI ist eng mit dem Konzept der Datensouveränität verknüpft – erweitert um neue Technologien und Anwendungsbereiche für Daten, einschließlich KI-Modelle.
• Die Kategorie umfasst die Verwendung von GenAI und maschinellem Lernen, wenn diese Systeme auf Datenquellen trainiert werden oder Zugriff darauf haben, die rechtlichen oder anderen Einschränkungen unterliegen.
• Mit Partnern, die Optionen für Souveränitätskontrollen anbieten, kann eine verteilte Cloud-Infrastruktur Ihnen helfen, souveräne KI-Überlegungen sowie Datenresidenz, Datenschutz und Zugriffskontrollen anzugehen.

Souveräne KI erklärt

Souveräne KI ist ein weit gefasster Begriff, der die Kontrolle über KI-Systeme beschreibt – insbesondere unter Berücksichtigung rechtlicher und geografischer Rahmenbedingungen. Ein zentrales Ziel souveräner KI besteht häufig darin, sicherzustellen, dass sensible Daten weder eine bestimmte Gerichtsbarkeit verlassen noch von unbefugten Personen eingesehen werden können.

Es gibt sechs Hauptaspekte, die im Zusammenhang mit souveräner KI zu berücksichtigen sind: das Verständnis der Vorschriften, die für Ihr Unternehmen gelten, die Bestimmung Ihrer bevorzugten KI-Infrastruktur, die Implementierung von Data Residency-Kontrollen, die Einrichtung von Datenschutzkontrollen, die Einführung gesetzlicher Kontrollen und die Sicherung Ihres KI-Stacks.

• Verständnis der Vorschriften. Verstehen Sie die Anforderungen Ihres Landes oder Ihrer Region an die Datensouveränität? Wenn ja, sind Sie wahrscheinlich in der Minderheit. Diese Regeln sind oft komplex. Bei der KI-Souveränität müssen Sie möglicherweise zuerst Datensouveränitätsregeln in Betracht ziehen und dann möglicherweise darüber hinausgehen, wie Daten zum Trainieren von Algorithmen verwendet werden und welche Antworten fertige KI-Modelle bereitstellen.

• Bestimmung Ihrer bevorzugten KI-Infrastruktur. Ihre KI-Lösungen können On-Premises, in der Cloud, in einem Hybrid-Cloud-/On-Premises-Modell oder sogar über mehrere Clouds hinweg implementiert werden. Es ist oft am einfachsten, diese Infrastruktur in der Cloud zu erstellen und zu verwalten, wo Ihr Anbieter bei Fragen helfen und eine Vielzahl von KI-Services bereitstellen kann.

  Wenn Sie sich die Cloud ansehen, müssen Sie Ihr bevorzugtes Modell finden. Suchen Sie nach Software-as-a-Service-Lösungen, die Unternehmenssoftware mit KI-Funktionalität bereitstellen können? Für Platform-as-a-Service, der viele KI-Tools bereitstellt, mit denen Sie Ihre eigenen KI-Systeme zusammenstellen können? Für Infrastructure-as-a-Service, wo Sie im Wesentlichen Server und Netzwerke mieten und alles selbst erstellen? Oder für eine Kombination daraus? Die Entscheidungen, die Sie treffen, bestimmen, was es braucht, um souveräne KI-Überlegungen zu erfüllen.

• Implementierung von Data Residency-Kontrollen Bei der Auswahl der Infrastruktur ist es an der Zeit zu beurteilen, wie viel Ihrer Daten, Anwendungen und Netzwerkverkehr innerhalb der nationalen Grenzen oder in Ihrer bevorzugten Zone verbleibt. Wenn Ihr Anbieter Ihnen helfen kann, Probleme mit der Datensouveränität zu bewältigen, haben Sie mit der KI-Souveränität eine einfachere Zeit.

  Je nach Cloud-Provider können Sie sehr fein granulierte Kontrollen für Ihre Daten, Anwendungen, Netzwerk- und Compute-Infrastruktur und die erforderlichen Benutzerzugriffskontrollen einrichten. Abhängig von Ihrer Branche und Ihren spezifischen Anforderungen können Sie die Compliance möglicherweise mit einem kommerziellen Public Cloud-Angebot mit Regionen in vielen Ländern bewältigen. Oder Sie benötigen eine behördenspezifische Cloud, die zusätzliche Anforderungen erfüllt. In der Europäischen Union könnte beispielsweise eine EU-Souverän Cloud für Sie geeignet sein. In einigen Fällen möchten Sie möglicherweise eine vollständige Cloud in Ihrem Data Center ausführen. Oracle bezeichnet dies als dedizierte Region. Möglicherweise möchten Sie sogar isolierte Cloud-Regionen implementieren – eine Infrastruktur, die wie die Cloud aussieht, aber vom Internet getrennt arbeitet.

  All diese Optionen sollten Teil Ihrer Strategie für KI-Souveränität sein.

• Datenschutzkontrollen einrichten Während die Datenresidenz berücksichtigt, wo Daten leben, konzentriert sich der Datenschutz auf die Art der Daten und wie sie verwendet werden können. Können Benutzer persönliche Informationen oder nur aggregierte Ergebnisse aus einem Datenbericht sehen? Welche Arten von Antworten können generative KI als Antwort auf Abfragen bieten? Es kann kompliziert sein, und Ihre Software benötigt möglicherweise ein flexibles Zugriffskontrollsystem, das Ihnen helfen kann, komplexe Anwendungsfälle zu bewältigen.

  Möglicherweise reicht es nicht aus, den Zugriff auf Ihren generativen KI-Chatbot zu kontrollieren. Ihr Chatbot muss möglicherweise so konzipiert sein, dass er auf Anfragen zugeschnitten reagiert. Die gute Nachricht ist, dass große Cloud-Softwareanbieter, insbesondere diejenigen, die SaaS-Apps anbieten, oft mit diesen komplexen Szenarien umgehen und viele diese Datenschutzkontrollen auf ihre KI-Agenten und andere künstliche Intelligenz-Tools ausgeweitet haben.

  Wenn ein Unternehmen KI in der Cloud verwenden möchte, muss möglicherweise kontrolliert werden, wer aus betrieblicher/interner Perspektive auf Daten zugreifen kann. Dies kann in einigen Fällen mit starker Verschlüsselung mithilfe von Schlüsseln behoben werden, die vom Kunden bereitgestellt und von lokalen Anbietern verwaltet werden. In anderen Fällen sind freigegebene Betriebs- und Supportmitarbeitende erforderlich.

• Einführung rechtlicher Kontrollen. Die Entscheidung, wie die Vorschriften eingehalten werden, kann kompliziert sein. Selbst in einem einzigen Unternehmen können je nach Daten unterschiedliche Überlegungen angestellt werden – Mitarbeiterinformationen, Gesundheitsdaten, Finanzen, geistiges Eigentum. Für multinationale Konzerne sind die Kombinationen und Permutationen erstaunlich.

  An diesem Punkt ist es an der Zeit, sich mit einem Rechtsbeistand zu beraten. IT-Planer können ihren Rechtspartnern helfen, die Vor- und Nachteile der Einführung von Systemen in die Compliance zu verstehen, und Rechtsanwälte können dabei helfen, die IT auf ein System zu lenken, das Compliance-Risiken reduziert. Berater können bei Evaluierungen und Tests helfen.

  Ein weiterer wichtiger Bereich bei der Bewertung von Lösungsanbietern ist, ob sie über Zuständigkeitsfunktionen und -ressourcen verfügen, um Ihre Complianceanforderungen zu erfüllen. Wenn Sie beispielsweise in der Europäischen Union tätig sind, möchten Sie möglicherweise, dass Ihr KI-Cloud-Anbieter Optionen innerhalb der EU hat.

• Sichern Sie Ihren KI-Stack. Sie möchten vielleicht, dass KI-Systeme Ihren vorhandenen Sicherheitsgeräten unterliegen, aber Sie glauben vielleicht auch, dass KI etwas mehr Aufwand und Tests erfordert. Es wird selten sein, dass Sie Ihre eigenen KI-Systeme trainieren, aber wenn Sie dies tun, sollten Sie möglicherweise Tests durchführen, um Ihre proprietären Trainingsdaten zu schützen. Wahrscheinlicher ist, dass Sie dem KI-System einige Ihrer Daten bereitstellen, oft mit Retrieval-Augmented Generation oder RAG. Möglicherweise entscheiden Sie sich dafür, Tests durchzuführen, um Fälle aufzudecken, in denen Nutzende durch geschickte Prompts auf Informationen zugreifen können, für die sie keine Berechtigung haben.

  Beachten Sie, dass der Blick auf die Aufgabe, die Rolle, den Standort und andere Faktoren jedes Benutzers bis zur Datenabruf-Engine zu erweitern, zu Datenlecks führen kann, die sich auf die Compliance Ihres Systems auswirken können. Zusätzlich zu der Situation, dass Benutzer mehr Zugriff erhalten, als ihnen zusteht, müssen KI-Stack-Sicherheitsmaßnahmen dazu beitragen, Ausfälle und Datenverletzungen zu beheben, die durch böswillige Angriffe oder regionale Katastrophen verursacht werden können. Diese Risiken, die durch potenziellen Identitätsdiebstahl durch KI-generierte Inhalte erhöht werden, erfordern robuste Cybersicherheitsstrategien, um eine verantwortungsvolle Data Governance sowie eine redundante Infrastruktur zu fördern, um die Resilienz innerhalb der Gerichtsbarkeit zu gewährleisten.

Warum ist souveräne KI wichtig?

Souveräne KI wie Datensouveränität ist wichtig, da sie dazu führen kann, dass Unternehmen besser sicherstellen können, dass nur autorisierte Personen und Systeme Zugriff auf transformative Technologien und hochmoderne Computing-Plattformen, Netzwerkinfrastruktur, Anwendungen, geistiges Eigentum und geschützte Daten haben.

Die sich schnell entwickelnde souveräne KI-Landschaft führt dazu, dass viele Unternehmen ihre gesamten IT-Bestände überprüfen und ihre Serviceprovider über ihre souveränen KI-bezogenen Angebote in Frage stellen. Sovereign AI-Lösungen verlangen, dass Zugriffskontrollen und -richtlinien klar angegeben und genau befolgt werden, und nicht nur wegen des Risikos, dass die geltenden Gesetze und Vorschriften zur Datensouveränität nicht eingehalten werden. Zwar mögen externe Faktoren souveräne KI-Initiativen antreiben – dennoch sind sie in jedem Fall sinnvoll und zukunftsweisend.

Vorteile souveräner KI

Souveräne KI-Überlegungen können der IT und dem Geschäftsbetrieb eine zusätzliche Compliance- und Governance-Ebene hinzufügen. Hier sind einige der potenziellen Vorteile dieser zusätzlichen Compliance-Arbeit:

• Geschäftschancen. Da Regierungen und andere Organisationen versuchen, innerhalb ihrer Grenzen generierte Daten zu kontrollieren, können sie verlangen, dass ihre Partner die souveränen KI-Konzepte einhalten, und First Mover könnten einen Wettbewerbsvorteil haben.
• Erhöhte Sicherheit. Die Implementierung souveräner KI-Funktionen kann Unternehmen dabei helfen, Anwendungen, Infrastruktur und kritische Daten besser zu schützen.
• Mehr regulatorisches Verständnis. Die Regeln ändern sich ständig, und die Arbeit an souveräner KI kann Teams helfen, die Ziele von Regierungen und Aufsichtsbehörden zu verstehen.

Herausforderungen der souveränen KI

Es könnten Kosten entstehen, die mit der Bewältigung souveräner KI-Überlegungen verbunden sind. Hier sind einige der Herausforderungen rund um souveräne KI:

• Rechtskosten. Unternehmen müssen möglicherweise mehrere Regierungen und Gerichtsbarkeiten untersuchen und dann komplexe und möglicherweise widersprüchliche Regeln auflösen, um ein souveränes KI-Programm zu implementieren. Der Berater wird wahrscheinlich einen wesentlichen Teil dieser Arbeit erledigen müssen.
• Langsames Tempo des Wandels. Jedes Compliance-Projekt hat einen eigenen Zeitplan, der vom Umgang mit mehreren Unternehmen abhängt, zu denen Regierungen und Regulierungsbehörden gehören könnten. Dies kann in einigen Bereichen einen langsamen Fortschritt bedeuten, wobei Zeitpläne oft außerhalb Ihrer Kontrolle liegen.
• Personalkosten. Möglicherweise müssen Sie Mitarbeiter oder Berater einstellen, um sowohl bei der rechtlichen Arbeit als auch bei der Implementierung technischer Lösungen zu helfen. Da dies ein aufstrebender Bereich ist, können diese Mitarbeiter oder Berater schwierig zu finden und teuer sein.
• Technische Komplexität. Sovereign AI-Herausforderungen können Änderungen an Ihrer IT-Infrastruktur und Ihrem Anwendungs-Stack erfordern. Möglicherweise müssen Daten von einer Region in eine andere migriert werden. Und Sie müssen möglicherweise neue Software schreiben oder Code ändern, um die Compliance zu verbessern.

Die Zukunft der souveränen KI

"Mehr." Das ist die Zusammenfassung der Zukunft der souveränen KI. Sie können auch erwarten, dass neue Technologien der künstlichen Intelligenz – und neue Anwendungsfälle – zusätzliche Vorschriften inspirieren werden. Bilder? Videos? Soziale Medien? Überall, wo Ihre Unternehmensdaten KI berühren, und an jedem Ort, an dem Ihre Kunden und Mitarbeiter KI nutzen könnten, werden Sie wahrscheinlich souveräne KI-Probleme feststellen.

Wie können Sie am besten auf dieses komplexe und sich ständig ändernde regulatorische Umfeld vorbereitet sein? Die Vorabarbeit, die richtigen Serviceanbieterpartner zu finden, Architekturen und Datenmodelle mit hoher Sicherheit auszuwählen und gründliche Berechtigungen einzurichten, kann jetzt zusätzlichen Aufwand bedeuten, sollte sich aber bei der Umsetzung Ihrer souveränen KI-Ziele auszahlen.

Wie kann OCI Ihnen helfen, Ihre KI-Souveränitätsziele zu erreichen?

Wenn die KI-Initiativen Ihres Unternehmens das Cloud-Computing nutzen – in einer einzigen Cloud-, Multicloud- oder Hybridarchitektur – verfügt Oracle über die Tools und Technologien, die Sie benötigen. Das Herzstück ist Oracle Cloud Infrastructure (OCI), das eine leistungsstarke Plattform für das Erstellen eigener KI-Anwendungen und das Hinzufügen von KI-Funktionen zu bereits verwendeten Anwendungen bietet. Oracle und OCI unterstützen souveräne KI und Datensouveränität in fünf Schlüsselbereichen: KI-Angebot, Datenresidenz, Datenschutz, rechtliche Kontrollen und Sicherheit. Die KI-Services und KI-gestützten Anwendungen von Oracle integrieren die neuesten intelligenten Funktionen in hochsichere, hoch skalierbare Anwendungen. Die Data Residency-Funktionen von Oracle helfen dabei, Ihre Daten innerhalb der Grenzen Ihres Landes, Ihrer Region oder einer anderen Gerichtsbarkeit zu halten. Standardmäßig sind alle Ihre Daten und Metadaten auf eine einzelne Oracle Cloud-Region beschränkt. Mit Dedicated Cloud werden Ihre Daten auch physisch von denen anderer Regionen getrennt.

Oracle unterstützt Sie bei der Verwaltung von KI-Modellen und trägt dazu bei, Zugriffsbeschränkungen mithilfe erweiterter Sicherheitsfunktionen sicherzustellen – auch wenn das Basismodell selbst entwickelt wurde oder von einem Drittanbieter stammt. Und wenn es um rechtliche Rahmenbedingungen und Kontrollen geht, arbeitet Oracle mit mehr als 80 Compliance-Agenturen und -Zertifizierungen zusammen und hat die Impact Level 6-Zertifizierung des US-Verteidigungsministeriums erhalten. Zusätzliche Tools unterstützen die Verwaltung und Prüfung Ihrer LLMs und anderer KI-Assets während des gesamten KI-Cloud-Lebenszyklus. Erfahren Sie mehr, indem Sie KI-Innovation: 5 wichtige Säulen zur Förderung souveräner KI lesen.

Souveräne KI ist bereits Realität

Wir sind alle an Anforderungen an die Datensouveränität gewöhnt, daher ist es keine Überraschung, dass künstliche Intelligenz ähnliche Vorschriften sehen könnte. Sovereign AI kann als Erweiterung der Datensouveränität betrachtet werden, um die neuen Technologien abzudecken, aus denen ein KI-Lösungsstack besteht, einschließlich Trainingsdaten, LLMs und Algorithmen für maschinelles Lernen. Zweifellos gibt es neue Anwendungsfälle – doch viele der Herausforderungen bleiben vertraut: Sicherheit, Datenschutz, Datenresidenz, Zugriffskontrollen und rechtliche Rahmenbedingungen betreffen nach wie vor zahlreiche Organisationen. Betrachten Sie souveräne KI als Chance, Best Practices zum Schutz Ihres Unternehmens, Ihrer Kunden sowie Ihrer Region und Ihres Landes umzusetzen – mit dem richtigen Technologiepartner wird daraus eine Herausforderung, die sich lohnt.

Souveräne KI – Häufig gestellte Fragen

Ist souveräne KI dasselbe wie Datensouveränität?

Im Allgemeinen konzentriert sich Datensouveränität auf den Schutz und die Kontrolle der Daten selbst, während sich souveräne KI auf die Entwicklung und Steuerung von KI-Systemen – einschließlich der verwendeten Daten – innerhalb einer bestimmten Gerichtsbarkeit richtet.

Welche Branchen sind am stärksten von souveräner KI betroffen?

Viele Arten von Unternehmen oder Organisationen haben jetzt oder in der Zukunft souveräne KI-Anforderungen, aber im Großen und Ganzen die größten sind Militär und Verteidigung, Gesundheitswesen, Bildung, Finanzen und Bankwesen und kritische Infrastruktur. Die IT-Branche selbst könnte auch ein Kandidat für souveräne KI-Überlegungen sein.

Ist souveräne KI teuer?

Es gibt immer Kosten, wenn man versucht, der Compliance voraus zu sein. Im Falle souveräner KI könnte eine der größten erwarteten Ausgaben das Lernen und die Einhaltung der regulatorischen Landschaften für die Gerichtsbarkeiten sein, in denen Sie tätig sind und in denen Ihre Stakeholder leben. Es könnten auch Kosten für Compliance-Tests und -Zertifizierungen entstehen. Obwohl es Technologieausgaben geben kann, sollten Sie bedenken, dass diese durch die Zusammenarbeit mit den richtigen Partnern und durch die Entwicklung von Systemen im Voraus minimiert werden können, um zukünftige souveräne KI-Vorschriften zu antizipieren.