Skalierung von KI in Ihrem Unternehmen

Jeffrey Erickson | Content Strategist | 9. Februar 2024

Ihr Unternehmen wird von künstlicher Intelligenz betroffen sein. Damit KI für Sie und nicht gegen Sie arbeitet, müssen Sie Initiativen über die Pilotphase hinaus in den täglichen Betrieb überführen.

Vorreiter zeigen den Weg: Sie nutzen KI, um die Geschwindigkeit und Genauigkeit von Prozessen in der Kreditoren- und Debitorenbuchhaltung zu erhöhen, Rechtsgutachten und andere Recherchen zusammenzufassen und kritische Aufgaben wie das Lesen von Röntgenbildern sicherer zu machen. Solche Führungskräfte setzen KI ein, um Betrug inmitten von Millionen von Finanztransaktionen aufzudecken und blitzschnelle Entscheidungen in hektischen Lagerhäusern und anspruchsvollen Fertigungsbereichen zu treffen. Sie nutzen KI-Chatbots, um immer komplexere Support-Anfragen zu bearbeiten und Vertriebsmitarbeiter zum besten nächsten Schritt für jeden Kunden zu führen.

Und das ist erst der Anfang.

Für jeden dieser Erfolge musste die Organisation jedoch einen Skalierungsprozess durchlaufen, bei dem Tools und Mitarbeiter zusammengeführt und die technischen und kulturellen Anpassungen vorgenommen wurden, die erforderlich sind, damit KI in der realen Welt funktioniert.

Im Folgenden werden wir uns mit den zahlreichen Facetten der Herausforderung befassen, KI für Unternehmen zu skalieren.

Was ist skalierbare KI?

Skalierbare KI ist die Möglichkeit, ML-(Machine Learning-)Algorithmen oder generative KI-Services zu verwenden, um alltägliche Aufgaben in Einklang mit der Geschäftsnachfrage zu erledigen. Dazu müssen Algorithmen und generative Modelle über die Infrastruktur und die Datenmengen verfügen, die sie benötigen, um mit der erforderlichen Geschwindigkeit und in dem erforderlichen Umfang zu arbeiten. Darüber hinaus benötigt eine skalierbare KI Daten aus vielen Bereichen des Unternehmens, die integriert und vollständig genug sind, um Algorithmen mit den Informationen zu versorgen, die sie benötigen, um die gewünschten Ergebnisse zu erzielen.

Ebenso wichtig sind Menschen, die bereit sind, KI-Ergebnisse in ihrer Arbeit zu nutzen. Wenn all diese Voraussetzungen erfüllt sind, kann skalierbare KI dazu beitragen, dass Geschäftsabläufe schneller, sicherer, genauer, personalisierter und sogar kreativer werden.

Wichtige Erkenntnisse

  • Die Skalierung von KI kann eine Vielzahl von Geschäftsabläufen erheblich verbessern.
  • Erfolg setzt viele funktionierende Teile in den Bereichen Datenmanagement, Data Science und Geschäftsprozessmanagement voraus. Diese werden oft unter der Überschrift „Machine Learning Operations (MLOps)“ zusammengefasst.
  • MLOps können das Erstellen und Trainieren von ML-Modellen oder das Trainieren aktueller Algorithmen oder großer Sprachmodelle (LLMs) umfassen, um ein Geschäftsziel zu erreichen.
  • Unternehmen müssen Datensicherheit, Datenschutz und regulatorisches Reporting berücksichtigen, wenn sie KI in ihren täglichen Betrieb einführen.

Warum ist es so schwer, KI zu skalieren?

Die Skalierung von KI erfordert Investitionen und Engagement. Sie erfordert neue Fähigkeiten und Technologien, eine hohe Rechenleistung und Änderungen in der Arbeitsweise Ihrer Organisation. Die Skalierung von KI geht weit über das Erstellen und Trainieren von Modellen hinaus. Sie bedeutet, sie in produktionstaugliche Anwendungen zu integrieren, die in großem Maßstab ausgeführt werden und Geschäftsnutzern Überwachungs- und Berichtsfunktionen bieten.

Auf dem Weg zu einer skalierten KI sind sechs große Herausforderungen zu bewältigen:

  1. Daten: Daten sind das Herzblut der KI. Sie beziehen sich auf die Informationen, die zum Trainieren von ML-Algorithmen verwendet werden, sowie auf die Informationen, die diese Algorithmen scannen, um Ergebnisse zu liefern. Die von ML-Modellen verwendeten Daten liegen in vielen Formen vor. Sie können sich in den Zeilen und Spalten einer relationalen Datenbank befinden, aber auch in Textdokumenten, Bildern, Videos oder sozialen Medien.

    Die Beschaffung, Organisation und Analyse oft riesiger Datensätze erfordert Fachwissen im Bereich Datenmanagement und Investitionen in Tools und Cloud-Dienste, wie z. B. ein skalierbares cloudbasiertes Data Lakehouse. Die Sicherheit und der Schutz von Daten sind die Hauptthemen jeder skalierten KI. Daten müssen vor externen und internen Bedrohungen geschützt werden, genau wie sensible Daten, die von jedem Unternehmen aufbewahrt werden. KI-Operations-Teams haben außerdem eine zusätzliche Verantwortung: Sie müssen sicherstellen, dass sensible Informationen in Trainingsdaten nicht in KI-Ausgaben erscheinen.

  2. Prozesse: Die Skalierung von KI ist ein iterativer Prozess, der mindestens drei Gruppen umfasst:

    1. Experten in jedem relevanten Geschäftsbereich, sei es Kundenservice, Versandlogistik, Produktdesign, Radiologie oder Buchhaltung.
    2. Das IT-Team, das die Betriebsdaten integriert, sichert und standardisiert und die erforderliche Rechenleistung und Netzwerke bereitstellt.
    3. Das Data-Science-Team, das ML-Funktionen erstellt, das Modell auswählt und die Parameter anpasst, bis die KI einsatz- und skalierbar ist. Ihre Experten für Geschäftsabläufe werden mit Data Scientists zusammenarbeiten, um sicherzustellen, dass die KI-Ergebnisse den Richtlinien entsprechen. Die Teams sollten die Retrieval-Augmented Generation (RAG) untersuchen, die eine Möglichkeit bietet, die Ausgabe eines LLM auf der Grundlage der Daten der Organisation zu optimieren, ohne das zugrunde liegende Modell selbst zu verändern.

  3. Tools: Es gibt drei Arten von Tools, die zur Skalierung von KI verwendet werden: Tools, die Data Scientists zum Erstellen von ML-Modellen verwenden, Tools, die das IT-Team zur Datenverwaltung und zur Unterstützung rechenintensiver Algorithmen verwendet, und Tools, die Geschäftsleuten bei der Verwendung von KI-Ausgaben bei ihren täglichen Aufgaben helfen. Für die Erstellung eines einzigen ML-Modells können zahlreiche spezialisierte Systeme erforderlich sein, die häufig von Data Scientists aus einer Vielzahl von Open-Source- und proprietären Tools zusammengestellt werden.

    In jüngerer Zeit haben Technologieunternehmen Tools für Data Science, Datenmanagement und KI-Operationen in integrierten Plattformen zur Skalierung von KI organisiert. Der Aufwand wird umgangssprachlich als „Machine Learning Operations“ oder MLOps bezeichnet und umfasst Tools für die Erstellung, Wartung und Überwachung von KI sowie die Berichterstattung über ihre Ergebnisse an interne Interessengruppen und Aufsichtsbehörden.

  4. Fachkräfte: Das für die Entwicklung, Schulung und Bereitstellung von ML-Modellen erforderliche Fachwissen lässt sich nur schwer erwerben, sodass Personen mit fundierten Kenntnissen im Bereich KI schwer zu finden und teuer in der Einstellung sind. Deshalb waren es bisher Technologiegiganten, die KI-Plattformen aufgebaut haben, und große, technisch versierte Unternehmen, die bereit waren, für KI-Expertise zu bezahlen.

    Jetzt sind jedoch MLOps-Plattformen als Cloud-Services und LLMs über API-Aufrufe verfügbar. Dadurch wird KI für mehr Unternehmen zugänglich. Es wird zwar weiterhin Bedarf an Datenmanagement und Data-Science-Expertise bestehen, aber die KI-Services, die über Cloud-Anbieter verfügbar sind, könnten den Druck verringern, Mitarbeiter mit fundierten Kenntnissen im Bereich der KI-Modellierung einstellen zu müssen.

  5. Umfang: Wie groß soll der Einsatzbereich sein, wenn es an der Zeit ist, die KI-Pilotphase in einem Unternehmensbereich zu überwinden? Idealerweise ist Ihre KI-Initiative groß genug, um einen spürbaren Unterschied in den Betriebsabläufen zu bewirken, sei es in Bezug auf Lieferzeiten, das Kundenerlebnis oder andere messbare Ergebnisse. Aber frühe Bemühungen im Bereich der skalierten KI sollten nicht so komplex oder so eng mit dem Endergebnis verbunden sein, dass man versucht ist, den Stecker zu ziehen, wenn man auf eine schwierige Phase stößt, anstatt eine Unterbrechung zu riskieren. Fangen Sie klein an, in einem Bereich, in dem kleine Patzer nicht allzu viel Schaden anrichten. Der Umfang der KI-Initiativen wird mit zunehmender Expertise und wachsendem Vertrauen innerhalb Ihrer Organisation immer größer werden.

  6. Zeit: Fast 80 % der KI-Projekte kommen laut CompTIA nie über den Konzeptnachweis hinaus, und diejenigen, die erfolgreich sind, dauern je nach Umfang und Komplexität drei bis 36 Monate. Diese Zeit wird für die Auswahl und den Einsatz von Modellen sowie für die Überwachung der KI-Ergebnisse in einer kontrollierten Umgebung aufgewendet.

    Entscheidungsträger in Unternehmen müssen auch den Zeit- und Arbeitsaufwand berücksichtigen, der für die Bereitstellung der Daten erforderlich ist, die ein KI-System in großem Maßstab benötigt. Data Scientists und IT-Teams müssen Daten mithilfe von Algorithmen für maschinelles Lernen erfassen, integrieren, speichern, aufbereiten und streamen und die Ergebnisse überwachen. Eine immer länger werdende Liste von Open-Source-Tools und -Bibliotheken sowie Automatisierungssoftware und Cloud-Diensten kann dazu beitragen, diesen Zyklus zu beschleunigen. Mit der Weiterentwicklung des Fachgebiets reifen auch die Tools.

Warum ist skalierbare KI so wichtig?

Obwohl die Skalierung von KI schwierig ist, setzen Führungskräfte darauf, dass die Herausforderungen und Vorlaufkosten letztendlich durch Geschäftsgewinne ausgeglichen werden. Laut McKinsey dürfte KI bis 2030 einen geschätzten Mehrwert von 13 Billionen US-Dollar für die Weltwirtschaft generieren. Dafür gibt es mehrere Gründe. Erstens werden mehr Unternehmen Projekte zur „digitalen Transformation“ in Angriff nehmen, um die Vorteile der KI zu nutzen. Dabei können sie ihre Daten nutzen, um in der digitalen Wirtschaft innovativer und wettbewerbsfähiger zu werden. KI wird diese Wettbewerbsvorteile noch verstärken und zu weiteren Innovationen führen. Unternehmen, die bereits KI einsetzen, profitieren von einer höheren Kundenzufriedenheit und Mitarbeiterproduktivität sowie einer effizienteren Nutzung von Vermögenswerten wie Schiffen, Lastwagen, Fertigungsanlagen und Lagern.

Skalierung von KI in Ihrem Unternehmen

KI in die harte Geschäftswelt zu bringen, kann zwar entmutigend sein, aber es lohnt sich für das richtige Projekt. Beginnen Sie mit der Data Science, wo Bibliotheken mit Algorithmen für maschinelles Lernen auf Ihre Geschäftsziele zugeschnitten werden können. Dieser Ratschlag ist auch nützlich, wenn Sie APIs verwenden, um auf große Sprachmodelle zuzugreifen und diese zu trainieren, die von Anbietern wie OpenAI und Cohere bereitgestellt werden.

Der nächste Schritt besteht darin, die Datensätze zu finden und zu importieren, auf denen Ihre KI trainiert wird. Sie können aus internen oder externen Daten oder einer Mischung aus beiden bestehen. Damit KI in einem Unternehmensumfeld funktioniert, müssen Stakeholder und Befürworter zusammengebracht werden, unabhängig davon, ob sie im Kundenservice, in der Finanzabteilung, in der Rechtsabteilung oder in einer anderen Abteilung tätig sind. Diese Fürsprecher werden mit dem Data-Science-Team zusammenarbeiten, damit die Trainer den „Alltag“ der Menschen in der Ziel-Unternehmensabteilung verstehen. Dann werden sie mit ihren Kollegen oder Partnern zusammenarbeiten, um bei der Vorbereitung des KI-gesteuerten Prozesses zu helfen und sich für eine breite Akzeptanz bei der Einführung einzusetzen. Wenn ML-Modelle, Datenflüsse und Geschäftsprozesse aufeinander abgestimmt sind, ist es an der Zeit, KI in Ihrem Unternehmen zu skalieren.

Durch die Kombination von fünf Schlüsselfaktoren können Organisationen die vielen Vorteile einer erfolgreichen Initiative im Bereich der künstlichen Intelligenz nutzen.

Dieses Bild zeigt 5 Schlüsselfaktoren für eine erfolgreiche Initiative im Bereich der künstlichen Intelligenz:

  • Richtige Daten: Daten sollten sorgfältig beschafft, standardisiert und integriert werden.
  • Richtiges Projekt: Wählen Sie ein Ziel, das auch wirklich erreichbar ist und einen messbaren Wert hat.
  • Richtige Unterstützung: Gibt es Befürworter aus der Wirtschaft, die hinter diesem Projekt stehen?
  • Richtiges Reporting: Sorgen Sie für nachweisbare Sicherheit, Compliance und KPIs, die den Erfolg belegen.
  • Richtige Plattform: Setzen Sie KI-Lebenszyklus-Tools ein, um alles zusammenzuführen.

7 Best Practices zur Skalierung von KI

Die Ausweitung des Einsatzes von KI in einem Geschäftsprozess ist mit vielen Herausforderungen verbunden. Die folgenden Best Practices sollen Ihnen zum Erfolg verhelfen:


1. Konzentration auf den Datenlebenszyklus

Bevor Data Scientists ML-Modelle erstellen und das Unternehmen diese Modelle skalieren kann, muss eine Datenstruktur vorhanden sein, die Datenquellen integriert und aktualisiert und ein sicheres, standardisiertes Format bereitstellt.


2. Standardisierung und Optimierung von MLOps

Wählen Sie eine MLOps-Plattform, die zu den Fähigkeiten Ihrer Data-Science- und ML-Operations-Teams passt und mit Ihrer IT-Infrastruktur oder der Ihres primären Cloud-Anbieters übereinstimmt.


3. Aufbau eines kollaborativen, multidisziplinären KI-Teams

KI-Initiativen erstrecken sich über verschiedene Fachbereiche und Abteilungen. Bringen Sie Stakeholder aus dem gesamten Unternehmen zusammen, um zu helfen.


4. Auswahl von Anfangsprojekten mit Erfolgsaussichten

Die Integration von KI in Geschäftsprozesse ist ein komplexes Unterfangen. Beginnen Sie mit einem Projekt, das schnell Erfolge zeigt und den Weg für ambitioniertere zukünftige Projekte ebnet. Erwägen Sie die Einrichtung eines Center of Excellence für KI, um den Erfolg sicherzustellen.


5. Planung von Governance und Reportability

Wählen Sie Tools für Datenmanagement, Data Science und Geschäftsbetrieb, die über eine integrierte Governance verfügen. Machen Sie sich mit den relevanten Sicherheits- und Datenschutzbestimmungen vertraut und integrieren Sie die Einhaltung und Meldepflicht in Ihren Prozess.


6. Durchgängige Verfolgung von Modellen

Achten Sie auf Funktionen, die Ihnen dabei helfen können, die Geschwindigkeit und die Kosten Ihrer KI-Ergebnisse sowie die dahinter stehenden Überlegungen und ihren Mehrwert für die Nutzer zu verfolgen.


7. Einsatz der richtigen Tools

Um KI in Ihrem Unternehmen zu skalieren, benötigen Sie eine Reihe von Tools, die es Data Scientists erleichtern, mit IT Engineers zusammenzuarbeiten, und es beiden Gruppen ermöglichen, mit Geschäftsleuten an Fragen der KI-Governance und Compliance zu arbeiten. Cloudbasierte Data-Science-Plattformen können Teams von Data Scientists einen Ort bieten, an dem sie Modelle und Notizbücher für maschinelles Lernen erstellen, trainieren, einsetzen und verwalten können – interaktive Rechenumgebungen, die die Ausführung von Code mit Datenvisualisierung und Textkommentaren kombinieren. Der Schlüssel liegt darin, Räume zu schaffen, in denen Trainer mit Modellen experimentieren, sie weiterentwickeln und ihren Einsatz skalieren können.

KI mit Oracle skalieren

Wenn Sie die KI in Ihrem Unternehmen skalieren möchten, ist Oracle Cloud Infrastructure (OCI) eine kluge Wahl. Es kann Ihnen dabei helfen, die Vorteile von KI so zu nutzen, wie es für Ihr Unternehmen am sinnvollsten ist und Ihren Bedürfnissen entspricht. Sie finden eine Reihe von SaaS-Anwendungen mit integrierten ML-Modellen und verfügbaren KI-Diensten sowie eine erstklassige Infrastruktur zum Erstellen, Trainieren und Bereitstellen von ML-Modellen in großem Maßstab. Oracle erleichtert außerdem den Zugriff auf generative KI-Modelle, die auf den hochmodernen LLMs von Cohere basieren.

Data Scientists hilft eine vollständig verwaltete Data-Science-Plattform beim Erstellen, Trainieren, Bereitstellen und Verwalten von Modellen für maschinelles Lernen mit Python und anderen Open-Source-Tools. Oracle bietet eine JupyterLab-basierte Infrastruktur, um mit Modellen zu experimentieren, sie zu entwickeln und das Modelltraining mit NVIDIA-Grafikprozessoren und verteiltem Training zu skalieren. Die Cloud ist ideal für das Training generativer KI, einschließlich Konversationsanwendungen und Diffusionsmodelle.

Mit OCI können Sie Modelle in die Produktion bringen und sie mit MLOps-Funktionen wie automatisierten Pipelines, Modellbereitstellungen und Modellüberwachung auf dem neuesten Stand halten. Kontaktieren Sie Oracle noch heute oder testen Sie diese Services kostenlos.

KI für Privatanwender mag zwar die meiste Aufmerksamkeit auf sich ziehen, aber auch Unternehmen setzen KI und ML aktiv ein. Es entstehen schnell Technologieplattformen und Geschäftsprozesse, die dazu beitragen, die KI in Unternehmen zu skalieren, sodass mehr Projekte vom Konzeptnachweis zur Serienproduktion übergehen können. Es gibt nach wie vor Herausforderungen, aber Unternehmen, die diese meistern, werden von einer höheren Effizienz, Genauigkeit, Datensicherheit, Personalisierung und Innovation profitieren.

Die Einrichtung eines KI-Kompetenzzentrums vor Beginn des unternehmensspezifischen Trainings erhöht die Erfolgswahrscheinlichkeit. Unser E-Book erklärt warum und bietet Tipps zum Aufbau eines effektiven CoE.

Wie man KI skaliert – Häufig gestellte Fragen

Wie skaliert man ein KI-Produkt?

Die Skalierung eines KI-Produkts ist eine Teamleistung, an der Interessenvertreter aus der gesamten Organisation beteiligt sind. Dazu gehören Experten für Data Science, Datenmanagement und IT sowie Personen mit fundierten Kenntnissen der Geschäftsprozesse, in denen das KI-Produkt eingesetzt werden soll. Oft hilft eine MLOps-Plattform dabei, diese Gruppe zusammenzubringen, um ML-Algorithmen zu entwerfen, zu trainieren, einzusetzen und zu optimieren.

Wie skaliert man ein KI-Start-up?

Die Skalierung eines KI-Start-ups basiert auf der frühzeitigen richtigen Entscheidung über die Datenerfassung, ML-Modelle oder LLMs und die Recheninfrastruktur, entweder On-Premises oder in der Cloud. Start-ups müssen eine große Anzahl von GPUs beschaffen, um umfangreiche Datensätze zu trainieren und eine komplexe KI-Infrastruktur mit der Leistung und Zuverlässigkeit zu betreiben, die für eine zeitnahe Bereitstellung von Ergebnissen erforderlich ist.

Wie skalierbar ist ein KI-System?

Ein skalierbares KI-System ist schnell und genau genug für die harte Geschäftswelt. Diese Systeme gehen über das experimentelle oder Proof-of-Concept-Stadium hinaus und sind in der Lage, skaliert zu werden, um einer Gruppe von Benutzern zu dienen.

Was ist KI-Skalierung?

Skalierung ist der Begriff für jeden rechenintensiven Dienst, der wachsen kann, um den Anforderungen des Unternehmens gerecht zu werden. Wenn eine Anwendung mehr Rechenressourcen benötigt, muss die IT-Infrastruktur, die die Anwendung unterstützt, entsprechend angepasst werden. In manchen Fällen bezieht sich Skalierung auch auf Verkleinerung, wenn keine Infrastruktur benötigt wird. Zum Beispiel verzeichnen einige Anwendungen saisonale oder vierteljährliche Nutzungsspitzen. Eine skalierbare Cloud-Infrastruktur kann entsprechend diesen Anforderungen vergrößert und dann wieder verkleinert werden, sodass das Unternehmen nicht für eine Infrastruktur zahlt, die es nicht nutzt.