Nosso amigo silvestrini já deu uma super resposta.

Eu colocaria de forma simples:

Se o cliente exige que a infra seja com ele, não tem o que discutir, deixa com ele.

Se vc tem a possibilidade de pegar a infra pra vc e tem o conhecimento para manter a infra dentro do padrão que seu projeto necessita, fique com a infra.

Dificilmente vc consegue pegar um contrato de suporte recorrente só com a aplicação, mas infraestrutura é aluguel, então é um fee mensal que no volume pode se tornar interessante pra vc.

Fora o item mais polêmico: segurança, estar na sua infra te protege contra cliente pilantra que pede pra colocar na infra dele, vc instala, deixa tudo rodando, eles começam a procurar pelo em ovo e retém pagamento ou somem, estando na sua infra, vc bloqueia o acesso e pronto, resolve a parte comercial e depois libera acesso.