Em qualquer computador você pode desenvolver um software que vai controlar diret · Razante

Em qualquer computador você pode desenvolver um software que vai controlar diretamente o processador e seus periféricos.

A GRANDE QUESTÃO DE EU TER FEITO ESTE POST É

Qual desses computadores a fabricante fornece documentação detalhada sobre como usar o processador e periféricos ???

OU dá para fazer isso sem informações detalhadas do hardware ???

Pela suas perguntas, você não tem ideia de por onde começar, portanto comece pelo começo: busque um microcontrolador, entenda o básico sobre o hardware, alguns periféricos "padrão" que a maioria possui como timers, IOs, memoria volátil e não volátil.

Já sei programar microcontroladores em assembly
Cheguei a implementar a criptografia de troca de chave do TLS 1.3
Mas a MCU gastou vários segundos para fazer.

Dificilmente você vai encontrar um microcontrolador que opere na casa dos GHz que não use um SO. Na verdade todo SO é um "apenas" um software, o que chamamos de SO é o Kernel, que cria uma abstração do seu hardware ajudando em questões basicas camadas de segurança, rede, IO, e multitasking.

Mas nada te impede de pegar qualquer hardware comercial que você encontra e fazer rodar a sua aplicação, o que vc vai precisar identificar como funciona o processo de bootstraping do processador, esse bootstrap normalmente são apenas algumas dezenas de linhas de codigo que inicializão o basico do hardware e procura pelo bootloader, esse sim que carrega o SO, ou no caso a sua aplicação. Um exemplo disso pode ser visto nesse video https://www.youtube.com/watch?v=jN7Fm_4ovio

Se o seu problema é que você precisa de criptografia em sistema embarcado, existem varios chips para criptografia no mercado, deve ter algum para trabalhar com TLS. A vantagem dessa abordagem é que esse chip calcula a criptografia muito mais rapido que um processador trabalhando a poucos MHz. Assim você não precisa de um processador trabalhando a GHz.