As contas baseadas em número de celular (seja como segundo fator de autenticação ou como a conta em si) realmente possuem esse problema justamente porque, caso você troque o número de celular, outra pessoa pode pegar o seu número antigo. Também pode ocorrer o clone de chip (SIM swapping), e aí se você usa o número do celular como 2FA, a pessoa conseguirá receber a mensagem de segurança.
Como o Robbu utiliza o WhatsApp como forma de autenticação, você precisa garantir que o seu WhatsApp está protegido desse tipo de ataque. Você pode ativar o 2FA no aplicativo, que irá solicitar um código PIN, que você definiu, ao tentar registar o seu número no WhatsApp novamente (How to manage two-step verification settings).