Eu sempre calculo quanto custa para manter o projeto. Desde gasto com servidores e etc... Depois adiciono uma margem de lucro proprocional a complexidade do projeto.
Esta é a dúvida de todo mundo, e obviamente não existe formula para isso. No fim, você precisa encontrar o balanço entre não ficar no prejuízo e não explorar o cliente.
Existem vários serviços semelhantes a este, pode usar pesquisar por referência e precificar com base em seus gastos e etc.