Verificação de violação de termos de uso com OpenAI e JavaScript

Esse é um exemplo de como utilizar a API do OpenAI em conjunto com JavaScript para verificar se uma postagem viola os termos de uso de um site.

Passo a passo

1. Importe a biblioteca openai e crie uma instância da classe OpenAIApi, passando a chave da API do OpenAI como argumento.

const { Configuration, OpenAIApi } = require('openai');

const configuration = new Configuration({
  apiKey: '--YOUR-OPENAI-API-KEY--',
});

const model = new OpenAIApi(configuration);

2. Crie uma função checkPostViolation que recebe como argumento o conteúdo de uma postagem e utiliza a API do OpenAI para determinar se essa postagem viola os termos de uso de um site. Para isso, crie uma prompt que contém os termos de uso e a postagem a ser verificada e envie essa prompt para a API do OpenAI. A API irá retornar uma resposta indicando se a postagem viola ou não os termos de uso, bem como uma explicação para essa decisão.

async function checkPostViolation(postContent) {
  const prompt = `Dado o seguinte termo de uso e uma postagem, determine se a postagem está violando o termo de uso. Caso esteja, por favor explique por que.

  Termo de Uso:
  Foco em conteúdo relevante para programação e tecnologia.
  Priorizar qualidade sobre quantidade.
  Não aplicar práticas malignas de engajamento, marketing ou anúncios.
  Proteção de dados dos usuários.
  Coletar apenas dados necessários para funcionamento e proteção.
  Usuários não devem afastar outros ou serem negativos, agressivos ou sarcásticos.
  Proibição de manipulação de qualificação de publicações.
  Proibição de discriminação de qualquer tipo.
  Não fazer publicações com foco exclusivo comercial.
  Não usar técnicas passivas de tracking.
  Responsabilidade do usuário sobre direitos autorais e propriedade intelectual.
  Reportar falhas de segurança de forma privada.
  Sem garantias para disponibilidade do serviço ou suporte.
  
  Postagem:
  ${postContent}

  A postagem viola o Termo de Uso? Caso sim, explique por que:`;

  try {
    const response = await model.createChatCompletion({
      model: 'gpt-4',
      messages: [{ role: 'user', content: prompt }],
      max_tokens: 4000,
      temperature: 0,
    });

    const answer = response.data.choices[0].message.content;

    return answer;
  } catch (error) {
    console.error('Error while checking post violation:', error);
    return false;
  }
}

3. Utilize a função checkPostViolation para verificar se uma postagem viola ou não os termos de uso. Para isso, passe como argumento o conteúdo da postagem que você deseja verificar. A função irá retornar uma string indicando se a postagem viola ou não os termos de uso, bem como uma explicação para essa decisão.

const postContent = 'Exemplo de postagem';
const response = await checkPostViolation(postContent);
console.log('A postagem viola o Termo de Uso?', response);

Example:

  const postContent1 = 'Vendo caminhão de gado';
  const response1 = await checkPostViolation(postContent1);
  console.log('A postagem 1 viola o Termo de Uso?', response1);
  const postContent2 = 'Open AI lanca GPT-4';
  const response2 = await checkPostViolation(postContent2);
  console.log('A postagem 2 viola o Termo de Uso?', response2);