Proxmox: O opensource bem feito, so que é complicadinho de criar backups e ja tive problemas com atualização de maquinas linux e também com o uso de vlans.
Unraid: esse é o famosinho dos homelabers, ele não é necessariamente um virtualizador, ta mais para um admin panel, mas que permite que você crie maquinas virtuais, o que eu acho mais legal dele é poder gerenciar arquivos, VMs, containers docker, etc e ainda de brinde vc pode colocar N HDs ou SSDs e gerenciar tudo isso de uma forma alternativa ao raid tradicional.
VMwhere ESXI: O melhor corporativo, esse cara não tem o que dizer, é perfeito, tudo nele funciona e apesar de ser pago versões antigas não tem custo, você pode pegar uma chave de registro no github ou ter a sua própria no site oficial, ah o backup dele é muito facil usando o veeam community.
Citrix XenServer: Usei pouco, o chato dele é ter a necessidade de instalar um client no computador para conseguir manipular as vms