a segunda é um algoritmo de encriptação avançada
Ambos são algoritmos de encriptação. A diferença é que o AES é simétrico (a mesma chave é usada para encriptar e decriptar), enquanto o RSA é assimétrico (usa um par de chaves, sendo que uma é usada para encriptar, e outra para decriptar).
Simplificando ao máximo: todo par de chaves tem uma que é pública (pode ser divulgada sem problemas - aliás, a ideia é que seja divulgada, senão não serve pra nada), e outra que é privada (somente o "dono" das chaves tem acesso, podendo ser protegido por senha, etc). Se algo é encriptado com uma das chaves, só pode ser decriptado pela outra.
Então se eu quero te enviar uma informação que só vc pode ter acesso, eu uso a sua chave pública para encriptar. Assim, somente a sua chave privada pode decriptar esta informação. E como - idealmente - só vc tem acesso à sua chave privada, ninguém mais conseguirá decriptar a informação.
Como curiosidade, também existe o processo inverso, mas aí é chamado de "assinatura digital": vc "encripta" uma informação com sua chave privada, e todos conseguem usar sua chave pública para "decriptar". E qual a utilidade disso? Simples: se eu consegui "decriptar" usando sua chave pública, quer dizer que aquela informação foi com certeza "encriptada" com sua chave privada. E como só vc tem acesso à chave privada, certamente a informação foi gerada por vc - ou seja, isso garante que a informação não veio de outra pessoa. Note que usei os termos "encriptar" e "decriptar" entre aspas porque o termo correto para este caso é "assinar" (que é feito com a chave privada) e "verificar a assinatura" (feito com a chave pública).
Por fim, como o RSA é um algoritmo lento para encriptar e decriptar, costuma-se usar um processo misto: por exemplo, se eu quero trocar informações com vc, eu gero uma chave para um algoritmo simétrico (como o AES), e esta é encriptada com sua chave pública. Então eu mando pra vc, que decripta com sua chave privada, e aí ambos teremos a mesma chave simétrica e podemos usá-la para trocar mensagens. Aliás, é exatamente isso que ocorre em conexões HTTPS.
