O primeiro passo é tetar fazer o simples. Só depois que tiver uma prova cabal é que deve partir para algo complexo. Faça a aplicação escalar verticalmente antes, a horizontal custa muito caro em todos os sentidos, e não é só sobre custo.

Para te dar aparãemtros, o Stack Overflow que era um dos 30 sites mais acessados do mundo conseguia rodar em 1 servidor e eles desligavam os outros para testar e ia bem. Tirando mídia e search, se saíssem do PHP e fizessem um software um pouco melhor, poderiam rodar o principal em 1 servidor no talo. Poucos do jeito atual, para um dos 5 sites mais acessados do mundo na época que a Alexa tinha ranking. Tem inúmeros casos assim.

Mesmo que precise mesmo escalar horizontalmente, provavelmente consegue fazer isso só distribuindo a carga, como se fosse vários fornecedores separados.

Você tem uma carga maisopr que esses sites? Precisa de uma equipe extremamente competente e experiente para lidar com isso e deve estar sobrando dinheiro. Se não for isso comece ver porque a carga es´ta tão alta com tão pouco, quase semrpe é o problema.

Ajudei? Era o meu desejo.

Farei algo que muitos pedem para aprender a programar corretamente, gratuitamente (não vendo nada, é retribuição na minha aposentadoria) (links aqui no perfil também).