Imaginei que poderia ser algo do tipo, não sei exatamente como funciona a api deles. Uma dúvida quando eu envio um nome de produto ou link, ele envia algo "Avalia o produto xxx" como um prompt e retorna resposta? Por que dai talvez seria só mudar no prompt ali ou isso por si só deixaria a resposta mais lenta?
Talvez a medida que for coletando respostas de produto vá armazenando em um banco de dados, e dai se a resposta já foi dada alguma vez tu retorna aquela review já armazenada, assim economizaria na API também.
Respondendo a "Quando eu estava criando a versão base, a ideia..." dentro da publicação Meu novo projeto utilizando o GPT, o que acharam?
1
1
Na request para a API de backend ele envia somente os dados do produto e a linguagem do site (EN ou PT).
No backend o prompt que ele faz é Baseado no produto ${product} crie um resumo em ${locale} sobre o produto em até 500 caracteres.
Eu limitei a 500 caracteres pois foi uma média que eu consegui um bom tempo de resposta e utiliza por volta de 512 tokens, mas no futuro, com armazenamento em cache e etc, vou tentar gerar algumas requisições a mais para identificar melhor o produto e fazer o cache das respostas.