Deepinfra
Elige una ruta de inferencia directa cuando un modelo compatible ya se ajuste a tu carga de trabajo.
Ventajas
- Una relación directa entre tu aplicación y la plataforma que sirve el modelo seleccionado facilita describir e investigar el recorrido de la solicitud.
- La documentación específica del modelo te ofrece un lugar concreto donde verificar los formatos de entrada, los parámetros disponibles y las salidas esperadas antes del despliegue.
- Una integración centrada en un solo proveedor puede ser más fácil de mantener si no necesitas comparar proveedores con frecuencia.
Aspectos a considerar
- Su catálogo se limita a los modelos que admite la plataforma; un modelo disponible en otro lugar puede requerir otra integración.
- Cambiar a otro proveedor más adelante seguirá requiriendo cambios de identificadores y pruebas de regresión, aunque ambas API resulten familiares.