Olá!
Encontro-me na mesma situção de aprendizado com backend e AWS.
Atualmente, também estou tentando resolver um problema semelhante com o uso do AWS S3, mas ainda não cheguei a uma solução definitiva. Concordo que o proxy via Express parece mais controlado, mas, como você mencionou, a questão do impacto na largura de banda do servidor pode ser um problema.
Vou acompanhar as respostas para aprender com a experiência da comunidade e quem sabe encontrar uma solução mais eficiente!