Selección de modelos
El catálogo de modelos de deepinfra es un punto de partida cuando sabes qué quieres hacer, pero no qué modelo se ajusta a tus necesidades. Úsalo para reducir las opciones y, antes de enviar una solicitud, consulta los detalles actuales de un modelo candidato.
La página general de Deepinfra presenta el servicio. Una ruta centrada en modelos comienza con tu carga de trabajo y los detalles que necesitas evaluar antes de hacer pruebas.
Necesitas vectores para la búsqueda semántica, no una respuesta conversacional. Una descripción general no te dirá qué formato de salida debes examinar.
Empieza por la tarea de generación de embeddings y, después, consulta las dimensiones de los vectores y los límites de entrada en la ficha del modelo candidato.
Necesitas ayuda con cambios en el código y quieres distinguir un flujo de trabajo de programación de una prueba de chat general.
Identifica primero la tarea de programación y, después, evalúa la salida del modelo candidato con una pregunta representativa sobre el repositorio.
Tienes una pregunta de varios pasos y necesitas examinar un modelo candidato específico en lugar de recorrer todo el catálogo.
Compara el formato de entrada y los límites documentados del modelo candidato con la tarea que quieres ejecutar.
Quieres probar un modelo candidato concreto con un borrador, pero debes comprobar su disponibilidad y sus capacidades.
Confirma que existe su ficha y, después, compara las restricciones documentadas con la longitud de tu borrador y la salida que esperas.
Distinguir los tipos de salida, examinar un flujo de trabajo específico para tu tarea y evaluar un modelo candidato concreto. Son pasos más útiles que elegir basándote solo en un nombre.
Una prueba breve te dice más que el nombre de un modelo. Mantén fijos la tarea y los criterios de evaluación mientras comparas candidatos.
Anota si necesitas texto, código o vectores. Incluye una entrada representativa y lo que debería contener una respuesta útil; así evitarás incluir modelos de tipos no relacionados en tu lista de candidatos.
Para cada modelo candidato de Deepinfra, comprueba la tarea admitida, el formato de solicitud, las restricciones de contexto o entrada y cualquier nota de disponibilidad que aparezca en su ficha. No des por sentado que dos variantes con nombres parecidos aceptan solicitudes idénticas.
Prueba la misma entrada con cada candidato adecuado y compara la precisión, el formato de salida y cómo maneja tu caso límite. Vuelve a consultar la ficha antes de basarte en un resultado, ya que los detalles del catálogo pueden cambiar.
Usa un criterio de aceptación distinto para cada tipo de salida. Los nombres de los modelos de Deepinfra, por sí solos, no permiten determinar si una respuesta sirve para tu aplicación.
Texto
Plantea al candidato una pregunta con una respuesta verificable e instrucciones claras sobre el formato. Una respuesta bien redactada puede omitir un dato necesario o incumplir una restricción.
Código
Proporciona una función pequeña, el comportamiento esperado y un caso límite. Evalúa el código resultante con tus propias pruebas en lugar de dar por hecho que funciona solo porque su sintaxis parece correcta.
Vectores
Genera embeddings para un pequeño conjunto de documentos y consultas; después, comprueba si los elementos relevantes aparecen en las posiciones esperadas. Confirma la forma documentada de los vectores antes de conectar un índice.
El catálogo de Deepinfra te ayuda a encontrar candidatos; no puede validar tus datos concretos, garantizar que una ficha no cambie ni sustituir las pruebas de tu aplicación.
Las etiquetas de tareas admitidas no indican qué tal maneja un candidato el vocabulario de tu ámbito, las reglas de formato o los casos de error.
Qué hacer en su lugar
Prueba un conjunto pequeño y representativo de entradas y revisa tú mismo los resultados.
El nombre de una familia de modelos no determina los datos que acepta una solicitud, el límite de contexto ni el formato de salida de cada variante.
Qué hacer en su lugar
Consulta la documentación vigente del candidato exacto que piensas utilizar.
Una sola respuesta buena no demuestra un comportamiento constante, la idoneidad para entradas sensibles ni el rendimiento con tu carga de trabajo.
Qué hacer en su lugar
Repite las pruebas con casos límite y revisa la información pertinente sobre el tratamiento de datos antes del despliegue.
Empieza con una tarea y una entrada representativa. Selecciona candidatos adecuados de Deepinfra, comprueba sus requisitos actuales y compara los resultados con criterios que hayas elegido de antemano.
Empieza por el resultado que necesitas: texto generado, código o vectores. Selecciona candidatos de esa categoría, consulta sus fichas actuales y prueba cada opción adecuada con el mismo caso representativo.
No. Los candidatos pueden diferir en las tareas que admiten, los formatos de solicitud, las restricciones de entrada y el tipo de resultado que devuelven. Consulta la ficha exacta en lugar de suponer que los modelos con nombres parecidos funcionan igual.
Consulta la documentación o la ficha del candidato exacto que piensas probar. La disponibilidad en el catálogo y los detalles técnicos pueden cambiar, así que vuelve a verificarlos antes de utilizar un modelo en una aplicación.
El nombre sirve para encontrar un candidato, no para determinar si cumple tus requisitos. Compara las capacidades documentadas y haz una prueba específica para tu tarea con un resultado esperado.