Choix du modèle
Le catalogue de modèles deepinfra est un point de départ lorsque vous savez ce que vous voulez faire, mais pas quel modèle choisir. Utilisez-le pour affiner votre sélection, puis vérifiez les informations à jour sur un modèle avant d’envoyer une requête.
Le point d’entrée général de Deepinfra présente le service. Un parcours axé sur les modèles part de votre cas d’usage et des informations dont vous avez besoin pour les évaluer avant de les tester.
Vous avez besoin de vecteurs pour la recherche sémantique, et non d’une réponse conversationnelle. Une présentation générale ne vous dira pas quel format de sortie examiner.
Commencez par la tâche de génération d’embeddings, puis vérifiez les dimensions des vecteurs et les limites d’entrée dans la fiche du modèle envisagé.
Vous avez besoin d’aide pour modifier du code et souhaitez distinguer un flux de travail de programmation d’un simple test de conversation.
Définissez d’abord la tâche de programmation, puis évaluez la réponse du modèle envisagé à une question représentative concernant le dépôt de code.
Vous avez une question à plusieurs étapes et devez examiner un modèle précis plutôt que de parcourir tout le catalogue.
Comparez le format d’entrée et les limites indiqués pour ce modèle avec la tâche que vous comptez exécuter.
Vous souhaitez tester un modèle précis sur un brouillon, mais devez d’abord vérifier sa disponibilité et ses capacités.
Vérifiez que sa fiche existe, puis comparez les contraintes indiquées avec la longueur de votre brouillon et la sortie attendue.
Distinguer les types de sortie, examiner un flux de travail propre à une tâche et étudier un modèle précis. Ces étapes sont plus utiles que de choisir un modèle sur son seul nom.
Un court test vous en apprend plus qu’un nom de modèle. Gardez la tâche et les critères d’évaluation identiques lorsque vous comparez les modèles.
Déterminez si vous avez besoin de texte, de code ou de vecteurs. Ajoutez une entrée représentative et précisez ce qu’une réponse exploitable devrait contenir ; cela vous aidera à écarter les types de modèles sans rapport avec votre tâche.
Pour chaque modèle Deepinfra envisagé, vérifiez la tâche prise en charge, le format des requêtes, les contraintes de contexte ou d’entrée et les éventuelles indications de disponibilité figurant sur sa fiche. Ne supposez pas que deux variantes aux noms similaires acceptent des requêtes identiques.
Soumettez la même entrée à chaque modèle adapté et comparez l’exactitude, la forme du résultat et la gestion de votre cas particulier. Revérifiez la fiche avant de vous appuyer sur un résultat, car les détails du catalogue peuvent changer.
Utilisez un critère d’acceptation différent pour chaque type de résultat. Le nom d’un modèle Deepinfra ne suffit pas à établir si sa réponse convient à votre application.
Texte
Posez au modèle une question dont la réponse est vérifiable, avec des instructions claires sur le format. Une réponse soignée peut néanmoins omettre un fait requis ou ignorer une contrainte.
Code
Fournissez une petite fonction, le comportement attendu et un cas limite. Évaluez le code obtenu avec vos propres tests au lieu de considérer qu’une syntaxe plausible prouve qu’il fonctionne.
Vecteurs
Créez des embeddings pour un petit ensemble de documents et de requêtes, puis vérifiez si les éléments pertinents apparaissent au rang attendu. Confirmez la forme des vecteurs indiquée dans la documentation avant de connecter un index.
Le catalogue Deepinfra vous aide à découvrir des candidats ; il ne peut ni valider vos données particulières, ni garantir qu’une fiche reste inchangée, ni remplacer les tests de votre application.
Les catégories de tâches prises en charge n’indiquent pas dans quelle mesure un candidat gère le vocabulaire de votre domaine, vos règles de mise en forme ou les cas d’échec.
Que faire à la place
Testez un petit ensemble représentatif d’entrées et examinez vous-même les résultats.
Le nom d’une famille de modèles ne définit pas les données acceptées dans les requêtes, la limite de contexte ou le format de sortie de chaque variante.
Que faire à la place
Consultez la documentation actuelle du candidat précis que vous comptez utiliser.
Une seule bonne réponse ne suffit pas à établir la constance du comportement, l’adéquation aux données sensibles ou les performances avec votre charge de travail.
Que faire à la place
Répétez les tests avec des cas limites et examinez les informations applicables sur le traitement des données avant le déploiement.
Commencez par une tâche et une entrée représentative. Présélectionnez des candidats Deepinfra adaptés, vérifiez leurs exigences actuelles et comparez les résultats aux critères que vous avez définis à l’avance.
Commencez par le résultat dont vous avez besoin : texte généré, code ou vecteurs. Sélectionnez quelques modèles candidats dans cette catégorie, consultez leurs fiches actuelles et soumettez le même test représentatif à chaque option adaptée.
Non. Les modèles candidats peuvent différer par les tâches prises en charge, les formats de requête, les contraintes d’entrée et le type de résultat renvoyé. Consultez la fiche exacte du modèle au lieu de supposer que des modèles aux noms similaires fonctionnent de la même façon.
Consultez la documentation ou la fiche du modèle exact que vous comptez tester. La disponibilité dans le catalogue et les détails techniques peuvent changer : vérifiez-les de nouveau avant d’utiliser un modèle dans une application.
Un nom permet de repérer un modèle candidat, pas de confirmer qu’il répond à vos besoins. Comparez les capacités documentées et effectuez un test adapté à votre tâche avec un résultat attendu.