A frase do Donald Knuth é mais completa que essa que todo mundo faz cherry picking. Quando pega a frase toda ela está falando para fazer otimização, não para não fazer. Ele faz a ressalva que não deve fazer otimização onde não precisa, para guardar o esforço na parte que importa.
E não precisa deixar para depois, quem sabe o que está fazendo sabe a hora de fazer. Em alguns casos deixar para depois pode custar muito mais caro. QUando a pessoa não entende bem a computação, passa ser normal pagar esse preço.
Hoje as pessoas pecam mais por não otimizar o que deveria. E isso ocorre de forma tão brutal que as pessoas nem identificam isso mais.
Farei algo que muitos pedem para aprender a programar corretamente, gratuitamente (não vendo nada, é retribuição na minha aposentadoria) (links aqui no perfil também).