Na maioria das aplicações na vida real, o gargalo é externo (banco de dados, rede, disco..).
A linguagem vai impactar mesmo em outras esferas: suporte da comunidade, profissionais no mercado, bibliotecas disponíveis...
Melhor deixar a otimização para uma etapa posterior do projeto.