Por experiências ruins que tive em outros sites, eu geralmente evito comentar depois de dar um negativo. A maioria não reage bem, leva pro lado pessoal, te chama de hater, troll, tóxico, etc. Pouquíssimos aceitam uma crítica, mesmo quando é construtiva. Na maioria dos casos, vira uma discussão inútil, uma grande perda de tempo. Sem contar os que começam a te dar "negativos de vingança". É um stress desnecessário, não vale a pena arriscar (a menos que eu já saiba que o usuário não é assim, mas muitos vc só descobre depois de comentar, é uma loteria).
E também já vi gente sofrendo perseguição, seja em outros sites, e até mesmo fora da internet. Isso é mais raro, claro, mas ainda sim, existe o risco.
Enfim, é um problema antigo que nenhum site conseguiu resolver. Se os votos são abertos, as pessoas ficam com receio de votar e o conteúdo ruim não é avaliado corretamente. Se o voto é anônimo, reclamam da falta de feedback. Não tem solução fácil, o melhor que dá pra fazer é escolher quais problemas vc quer ter e conviver com eles...