Amigo se você quer criar um sistema operacional, não precisa radicalizar. Você pode escrever um bootload simples e roda-lo no Qemu, daí é só escrever o kernel em C, C++ ou Rust e chama-lo no bootloader. Recomendo aprender C para isso, mas confesso que se escolher Rust será mais fácil, pois você pode compilar cruzado de forma absurdamente simples. Caso escolha desenvolver em C ou C++, precisará criar um compilador cruzado para a arquitetura(computador) que você deseja.

Se quer algo mais inusitado( na verdade estou trabalhando nessa possibilidade ) você pode escrever seu codigo assembly e roda-lo no seu celular android! isso mesmo haha! Seu binário assembly escrito para ARM teoricamente deve rodar, certo? Pelo ARM ser mais simples fica mais fácil pra você, e os processadores ARM rodam bem mais rapido que os microcontroladores( carece de fonte, tirei isso da cara de pau, mas quase certeza que é verdade esse bilhete kkk ).

ps: desculpem se falei ou informei algo errado acima, e vi agora que você quer RISC, ARM é Risc!

Boa sorte :)