É o tipo de problema bom sim! Pensei na IA só pq já mexi com alguns projetos de NLP parecidos, então parece interessante classificar o que é um post mal intencionado e o que não é.

Nem que seja uma camada inicial de classificação que depois passe por uma triagem de moderadores, algo nesse sentido. Mais para facilitar esse processo, se não teria que ficar olhando post por post.

Vou começar a pensar nisso pra ajudar no projeto haha.
Ou talvez um sistema que envolva os downvotes pra retirar uma publicação? Agora to só viajando, mas é de se pensar. Valeu filipe