Gostaria de saber se existe uma técnica ou metodologia que seja aplicada de forma simples em meu backend para filtrar informacões ofensivas, informacões sem sentido, spans, propagandas indesejadas, etc.
Com IA você consegue classificar textos. Não beira o impossível nem um pouco.
De "forma simples" eu acho que não.
Mas como já disseram, dá pra você aplicar uma AI, ou mesmo ter um banco de dados com palavras proibidas.
Mas claro, isso nunca vai evitar 100%, pois quem quer sempre acha um jeito de driblar o robô.
Outra forma é fazer moderação dos comentários. Mas também tem seus pontos negativos. Se a moderação for pré aprovação, o delay pode fazer a galera desistir de comentar no seu site, dominuindo o engajamento. Se for pós aprovação, mesmo um comentário fora das regras vai ficar exposto por um período, até ser excluido.