Estou usando a da Anthropic, achei mais perfomática que a da OpenAI...
Sobre alternativas, sendo bem honesto, não pensei em nada, tem alguma ideia?
Sobre o usuário fazer uma requisição direto, é um cenário bem possível, mas acho que com a adição de novas features (webhooks, workflows, etc...) e a comodidade de ter algo mais plug and play pode ser que gere valor.
Tem alguma ideia de feature?
Boa, realmente você deve se destacar. E você está usando um modelo refinado para classificação de conteudo ou está usando um modelo genérico? Você usar a api no estilo chat com prompt? Deve ser bom usar um modelo de classificação de texto como https://huggingface.co/KoalaAI/OffensiveSpeechDetector. mas acho que tu vai ter que criar o seu própio em português. um modelo de classificação é bem mais barato do que de "chat" e ai sua empresa realmente teria um diferencial
Nice, vou dar uma olhada nesses modelos de classificação, obrigado pela dica! Atualmente estou no mais genérico mesmo...