Deepinfra
Escolha uma rota de inferência direta quando um modelo disponível já atender à sua carga de trabalho.
Pontos fortes
- Uma relação direta entre sua aplicação e a plataforma que disponibiliza o modelo selecionado facilita a descrição e a investigação do caminho da requisição.
- A documentação específica do modelo oferece uma referência concreta para verificar formatos de entrada, parâmetros disponíveis e saídas esperadas antes da implantação.
- Uma integração focada pode ser mais simples de manter quando você não precisa comparar provedores regularmente.
Pontos de atenção
- O catálogo se limita aos modelos disponíveis na plataforma; um modelo disponível em outro lugar pode exigir outra integração.
- Mudar para outro provedor mais tarde ainda exige alterações de identificadores e testes de regressão, mesmo que as duas APIs pareçam familiares.