Já que você pediu opinião, aqui vai a minha:

Não é de hoje que as pessoas estão reclamando sobre posts que não violam os termos serem negativados

A negativação não é sobre um post estar ou não dentro das regras, mas sobre ser relevante ou não. E esse julgamento é, acima de tudo, pessoal de cada usuário. É basicamente impossível regrar o que é relevante ou não sem ser um "ditador". Ou você deixa as pessoas livres para dizerem o que acham, ou vai força-las a votarem conforme seu gosto pessoal.

como assegurar que pessoas que violam os termos sejam desencorajadas a fazer isso?

Mais uma vez, negativar posts não viola termo, se fosse o caso, nem seria permitido. Se uma pessoa "negativa" um post 'extremamente relevante', outras duas podem positivar e "anular o troll", se é que a negativação foi realmente trollagem, já que como eu já disse, isso é gosto pessoal.

Posts que deveriam estar mas são negativados

Mais uma vez, essa é sua opinião.

Como Votar?...
Está bem escrito?
É algo novo na plataforma?
Está de acordo com o que se espera da plataforma?

A primeira frase do seu post já tem erro, fora o resto.
Seu post não trás algo "novo", já vi gente sugerindo melhorias de postagens antes.
Não sei dizer se era o que eu esperava ver na plataforma.

Devo te negativar então?

Uma página avulsa com o nome "Guia para criar bons posts" ensinando a fazer post de alto nível

Eu te desejo boa sorte tentando fazer as pessoas lerem isso antes de postarem.

eu sei que o ideal seria abrir uma issue no GitHub porém aqui tem maior chance de gerar uma discussão saudável

De certa forma você acabou de admitir que sabe que não deveria ter criado esse post e mesmo assim o fez. O que soa meio contraditório.

O que qualquer usuário perde em criar um post, mesmo que completamente fora das regras?
Qual o preço se paga pela postagem?
O que é mais rápido, postar errado e ver o que acontece, ou "estudar" para postar corretamente?

Sobre os up/down votes, esse é o poder da democracia. Ou tenta ser.

Uma "solução" que eu vejo é dar o poder de voto apenas para usuários selecionados, aqueles que realmente atuam de forma a ajudar a plataforma.
O fato de eu poder simplesmente criar uma conta nova e já negativar um post, abre margem para um exército de trolls avacalharem o trabalho de poucos camponeses.