Para fazer apenas na sua casa
Você precisa de conhecimento em linux: Instale algum SO de servidor nele, recomendo ubuntu
server e aprenda na prática.
Primeiro instale e configure ssh, aprenda a acessar do seu outro computador, se conecte remotamente e terá um terminal pra fazer o que quiser.
Se quiser fazer um servidor acessível de fora
NÃO FAÇA!
Esse é meu conselho e eu explico aqui o porque
Hoje todas as grandes hosts tem um free-tier que pode te dar uma experiência semelhante a ter um servidor em casa. AWS, ORACLE (indico), GCP, Azure
Se criar um home server e deixar público sem ter conhecimento adequado você corre risco de espor a rede da sua casa na internet, ter qualquer aparelho interno infectado por vírus ou sofrer um ataque deixando sua casa inacessível até sua operadora querer arrumar.
Se mesmo depois de todos esses avisos você quiser
- Contrate um IP Fixo. Ele garante que você terá um endereço externo. Geralmente operadoras grandes só vendem esse serviço pra CNPJ, então vai ter que procurar alguma local que faça
- Peça para a sua operadora configurar uma DMZ para o seu servidor
Pronto, ele estará acessível a todos e será semelhante a uma VPS