Para uma rede social pequena, poderia fazer o seguinte:

Um sistema de denúncia, manual.

Fora isso poderia incluir uma busca de palavras, contidas em uma lista "proibida". Se conter essas uma quantidade x dessas palavras, vai para um moderador analisar.

Se for imagens ou vídeos fica mais complicado. Se indexar vídeos upados no Youtube, já conta com o filtro do próprio Youtube.