Se você é iniciante, eu não recomendo que comece por aí. Adquira um pouco de experiência primeiro, compiladores é uma matéria bastante densa. Eu tive aulas disso na faculdade por volta do terceiro ano, depois de aprender estruturas de dados e mais outras coisas básicas de programação, então comece por aí.

Já tem um comentário bastante explicativo aqui sobre isso, então não vou me alongar, só vou dizer que existem ferramentas que tornam o trabalho mais simples, como o LLVM, que inclusive tem um tutorial inteiro de como criar uma linguagem simples chamada Kaleidoscope. É bem denso e precisa ter um bom conhecimento de C++, mas se você estudar bastante, chega lá.