Generative AI – Servicetarife

Bei Bedarf können Basismodelle verwendet werden, wobei Sie pro Zeichen basierend auf der Länge der Eingabeaufforderung und der Antwort des Modells bezahlen (mit Ausnahme der Einbettungsmodelle, bei denen die Antwort des Modells nicht berücksichtigt wird). In der folgenden Tabelle ist eine Transaktion = ein Zeichen und 10.000 Transaktionen = 10.000 Zeichen.

Darüber hinaus können Sie private Replikate von Basismodellen hosten und optimierte Modelle auf dedizierten KI-Clustern erstellen. Dedizierte KI-Cluster gibt es in zwei Varianten: Hosting und Feinabstimmung. Sie erstellen ein Hostingcluster, indem Sie ihm KI-Einheiten basierend auf dem Modell, das Sie hosten möchten, und dem erwarteten Anrufvolumen für das Modell zuweisen. Für die Feinabstimmung von Clustern sind zwei KI-Einheiten des spezifischen Modells erforderlich, das Sie optimieren möchten. Nachdem Sie ein optimiertes Modell in einem Feinabstimmungscluster erstellt haben, können Sie es in Ihrem Hostingcluster hosten.

Dedizierte KI-Cluster erfordern eine Mindestverpflichtung von 744 Einheitsstunden (pro Cluster) für das Hosting von Modellen. Für die Feinabstimmung von Clustern ist mindestens 1 Std. erforderlich.