Penso que a dificuldade de um projeto open-source ter lucro seja pelo público que é atraído por esse tipo de produto, não é como se eu fosse divulgar um projeto de um aplicativo Android no GitHub, por exemplo, a fim de atingir um público um público geral, pois só de ele está apenas no GitHub já é motivo de nichar o público do meu aplicativo.
Estou criando um projeto supersimples de um aplicativo de cadastro de livros, para testar o que penso, serviria até como portifólio já que seria meu primeiro aplicativo publicado. O projeto é open-source no GitHub, mas nem tudo que estará na versão da loja está no repositório, como a parte de pagamento por exemplo, já que será um serviço por assinatura. Minha ideia é desenvolver o aplicativo de forma aberta, dando a opção para o usuário de contribuir para a ferramenta que usa todo dia.
Percebe o diferencial? São dois produtos diferentes, para o entusiasta que quer hospedar sua própria instancia do projeto e para um professor que quer apenas um aplicativo para cadastrar seus livros. Basicamente um OpenSaaS (que eu citei no post), mas apenas uma pessoa desenvolvendo. Dessa forma, não fico preso a doações ou esperando colaborações (já que é um projeto relativamente simples) por conta do sistema de assinatura.
Mas isso é um experimento que pode nem vim a funcionar, espero lançar um MVP logo e ver se tudo ocorre bem. Vale ressaltar que a única forma de marketing que vou fazer é orgânica, divulgar em redes sociais e pessoas próximas, vai que alguém goste e comece a espalhar, claro, com muita sorte kkk.
No seu caso, realmente está pensando em uma solução grande demais para ser desenvolvida sozinho. A dica que dou é procurar pessoas dentro do teu círculo social (amigos ou familiares) que ache a ideia legal e que possa ajudar a pôr a ideia pra frente, porque jogar o projeto no GitHub e esperar que vão colaborar, mesmo com marketing, acho difícil.