O básico você já sabe, que é saber algumas opções para o frontend. Você consegue construir excelentes aplicações web e ERPs com a maioria das opções disponíveis atualmente.
Já vi ERPs web com interface simples faturando milhões. Já vi sistemas com interfaces super avançadas que não compensaram o tempo gasto com toda complexidade pois têm faturamento considerado baixo para o que foi investido. A questão é que nenhum sistema é igual ao outro, então é você que precisa analisar as opções e decidir.
Sobre backend, como falaram, o Django é mais robusto e vem com partes prontas já inclusas e se trata de um framework bem seguro, consagrado no mercado (um dos frameworks mais usados no mundo) e uma ótima opção para desenvolvimento de um ERP.
Sobre usar FastAPI, você pode usar Django + Django Ninja. Você vai ter o melhor dos dois mundos. O poder do Django mais a performance igual do FastAPI na sua API.
Se quer começar pensando em um framework com menos componentes prontos, além do FastAPI (que tem performance igual a frameworks Node.js e Go), eu recomendo o Litestar, que tem performance ainda melhor que FastAPI:
https://docs.litestar.dev/2/benchmarks.html
Dá uma olhada nesses templates de projetos:
Full Stack FastAPI Template
https://github.com/tiangolo/full-stack-fastapi-template
O projeto usa FastAPI, React, SQLModel, PostgreSQL, Docker, Pytest, Traefik...
Litestar Fullstack Reference Application
https://github.com/litestar-org/litestar-fullstack
O projeto usa Litestar, React, Vite, SQLAlchemy, Docker, SAQ (Simple Asynchronous Queue) e outros componentes para começar a desenvolver uma aplicação completa.