Servicio de IA generativa | Oracle

Los modelos básicos se pueden consumir bajo demanda, donde se paga por carácter en función de la longitud de la petición de datos y la respuesta del modelo (excepto los modelos de inserción, donde la respuesta del modelo no se contabiliza). En la siguiente tabla, una transacción = un carácter y 10 000 transacciones = 10 000 caracteres.

Además, puede alojar réplicas privadas de modelos fundamentales y crear modelos ajustados en clústeres de IA dedicados. Los clústeres de IA dedicados se presentan en dos tipos: alojamiento y ajuste. Puedes crear un clúster de alojamiento asignándole unidades IA según el modelo que deseas alojar y el volumen de llamadas esperado al modelo. Los clústeres de ajuste necesitan dos unidades IA del modelo específico que desea ajustar. Una vez que hayas creado un modelo ajustado en un clúster de ajuste, puedes alojarlo en el clúster de alojamiento.

Los clústeres de IA dedicados requieren un compromiso mínimo de 744 horas unitarias (por clúster) para los modelos de alojamiento. Los clústeres de ajuste requieren un mínimo de 1 unidad-hora.