Quando eu estava criando a versão base, a ideia seria ele fornecer listas com 5 pontos positivos e 5 pontos negativos, mas eu tive problemas com a quantidade de tokens da open-ai que ele utiliza, tempo para gerar a resposta (quanto mais tokens mais demora), e até com a api de streaming de resposta acabou dando uns problemas.
Mas é algo que de fato esqueci de listar no roadmap, pontos positivos e negativos do produto.
Obrigado pela dica!
Imaginei que poderia ser algo do tipo, não sei exatamente como funciona a api deles. Uma dúvida quando eu envio um nome de produto ou link, ele envia algo "Avalia o produto xxx" como um prompt e retorna resposta? Por que dai talvez seria só mudar no prompt ali ou isso por si só deixaria a resposta mais lenta?
Talvez a medida que for coletando respostas de produto vá armazenando em um banco de dados, e dai se a resposta já foi dada alguma vez tu retorna aquela review já armazenada, assim economizaria na API também.
Na request para a API de backend ele envia somente os dados do produto e a linguagem do site (EN ou PT).
No backend o prompt que ele faz é Baseado no produto ${product} crie um resumo em ${locale} sobre o produto em até 500 caracteres.
Eu limitei a 500 caracteres pois foi uma média que eu consegui um bom tempo de resposta e utiliza por volta de 512 tokens, mas no futuro, com armazenamento em cache e etc, vou tentar gerar algumas requisições a mais para identificar melhor o produto e fazer o cache das respostas.