Fica tranquilo que, hoje em dia, é bem simples lidar com pagamentos. Seja para gerar cobranças ou enviar dinheiro de uma conta para outra, tudo se tornou bem mais descomplicado com gateways de pagamento como a Stripe, Mercado Pago ou uma PagHiper da vida. Hoje, também se encontram bibliotecas para tudo, então você nunca estará trabalhando com uma implementação do completo zero (o que pode ser um erro se não souber o que está fazendo). É claro que é necessário conhecer bem o gateway de pagamento e a biblioteca com que você vai trabalhar, mas, tirando isso, o resto é apenas lógica e saber estruturar todos os dados que achar relevantes. Se quiser praticar recomendo a Stripe (ela oferece uma documentação ótima para desenvolvedores).

Licenças/chaves de ativação são um assunto bem complicado e relativo. Não existe bala de prata, e cada caso é um caso. De fato, existem várias features que podem ser implementadas nas chaves para ter total rastreio delas, saber onde e quando foram usadas, etc. Mas, neste site, essa implementação é bem simples. Existe sim um sistema para controle, mas nada muito mirabolante – e é aquela coisa, não podemos fazer algo de nível Microsoft com orçamento limitado.