Não querendo te desanimar, mas criar uma linguagem é um processo bem complexo. Tenha isso em mente antes de começar, para não se frustrar logo de cara.
Algumas respostas deram um resumo em tópicos, mas já adianto que cada tópico citado é um mundo à parte. Vc também disse que não entende alguns termos, o que mostra que ainda tem muito pra aprender antes de começar de fato.
Complementando o que os demais já disseram, aqui tem um bom resumo sobre como uma linguagem é criada. Sim, é um resumo, cada item citado ali é um mundo à parte e demandará muito estudo. E não deixe de seguir todos os links do texto, pois eles detalham melhor o que foi dito.
Sim, é muita coisa, mas se for pra fazer algo sério e da maneira correta, não tem jeito. De qualquer forma, mesmo se vc não chegar a implementar, o processo de estudo te dará um entendimento maior sobre como as coisas funcionam por baixo dos panos, o que por si só já te torna um programador melhor.