Executando verificação de segurança...
14
gustavofior
1 min de leitura ·

Fiz um SaaS para moderação de conteúdo (imagem e texto) e gostaria de um feedback 😀

◻️ Censorfy

Salve rapaziada!

Fiz um SaaS para moderação de conteúdo (imagem e texto) e gostaria de um feedback.

A ideia principal é bem simples, um endpoint onde você pode enviar um texto e uma URL de imagem (opcional) e uma IA vai analisar
se o conteúdo deve ser censurado ou não.

Creio que pode ser útil para plataformas que precisam validar inputs de usuários.

A parte legal é que da pra deixar essa moderação mais custom de acordo com o que você precisa, da pra você criar uma diretriz (Guideline)
específica para a sua necessidade e criar categorias para organizar melhor o conteúdo moderado.

Acesse aqui: https://www.censorfy.com

Exemplo:

Você não quer que nenhum conteúdo relacionado a política ou religião seja aceito na sua plataforma. Você pode criar uma diretriz
descrevendo isso e criar duas categorias (Política e Religião) para organizar o conteúdo moderado.

Agradeço muito qualquer ajuda no lançamento:
ProductHunt: https://www.producthunt.com/posts/censorfy-ai-content-moderation
HackerNews: https://news.ycombinator.com/item?id=41749885

Valeuuuuuu :)

Carregando publicação patrocinada...
3
batataQuente

Projeto interessante, uma dica de design para a página de venda do produto, use 0.5rem de padding em toda a página, da muita agonia o texto colado na borda do celular.

0
1
0
1
0
1
Pedroaf0

usa a api da openAI? Ou outra? já pensou em alternativas caso o uso de api se torne inviável? O que impede de quem precisa desse serviço fazer uma requisição diretamente pra OpenIA com uma prompt pedindo pra retornar true ou false? são questionamentos pra melhorar seu produto e também por pura curiosidade

1
gustavofior
Autor
Autor

Estou usando a da Anthropic, achei mais perfomática que a da OpenAI...

Sobre alternativas, sendo bem honesto, não pensei em nada, tem alguma ideia?

Sobre o usuário fazer uma requisição direto, é um cenário bem possível, mas acho que com a adição de novas features (webhooks, workflows, etc...) e a comodidade de ter algo mais plug and play pode ser que gere valor.

Tem alguma ideia de feature?

1
Pedroaf0

Boa, realmente você deve se destacar. E você está usando um modelo refinado para classificação de conteudo ou está usando um modelo genérico? Você usar a api no estilo chat com prompt? Deve ser bom usar um modelo de classificação de texto como https://huggingface.co/KoalaAI/OffensiveSpeechDetector. mas acho que tu vai ter que criar o seu própio em português. um modelo de classificação é bem mais barato do que de "chat" e ai sua empresa realmente teria um diferencial

1
batataQuente

Olá, projeto muito interessante! Como está fazendo para distribuir um "gpt" gratuito? Está assumindo os custos da api oficial ou criou um bot que interage na página do chatgpt?

Estou trabalhando em um projeto open source que usa ia e fiquei curioso sobre o seu método. Por enquanto a minha melhor solução era instruir cada usuário a criar sua chave api no Gemini.

1
1
0