Meus 2 cents:
Geralmente ataco de imediato o /var:
cd /var
du -shc *
Com este comando listo os diretorios e vejo o espaco ocupado por cada um
Ali tem alguns diretorios que sao grandes candidatos a limpeza:
var/cache
var/log
var/spool
var/tmp
E com este comando lista em bytes na ordem decrescente
du -sc * | sort -n | tac
E sobre servidores: costumo usar LVM ou ZFS que normalmente sao mais faceis de trabalhar com relacao a espaco em disco.
E uma "dica": se voce tem um servidor que de antemao sabe que vai ficar "esquecido" e receber pouca manutencao e correr o risco disso acontecer, crie um arquivo "falso" no /root com um uns 100Mb (p.ex. dd if=/dev/sda of="/root/espaco-a-liberar.txt" bs=1 count=100M). Assim, caso ocorra, voce tem facil um local que pode recorrer emergencialmente, basta remover.