Eu passei por esse mesmo ponto com o Excel uns anos atrás anets de entrar para Eng de Dados. Mas é importante entender primeiro qual é a sua principal limitação com o Excel?
Se for por quantidade de linhas vc pode substituir com um banco de dados e dps plugar um power query nele, por exemplo. Se a limitação não for tão grande, até mesmo um MS access pode já dar conta do recado com um minimo de SQL. E ai vc poderia também plugar scripts em Python ou outra linguagem para análises mais alto nível. Mas o principal ponto realmente é entender qual é exatamente a limitação pra decidir qual o melhor caminho alternativo.