Meus míseros 2 centavos:

Tem 2 visões dessa questão que penso, mas não a ponto de concordar ou discordar, e sim de perspectiva.

Em 80% do que temos de programação hoje em dia, falando daquilo é que amplamente divulgado, ensinado e difundido, não se usa tanta matemática como você imagina. O que se usa mesmo é raciocínio lógico e estratégia de negócio. Isso porque os sistemas que geram trabalho são em sua essência, negócio! Vendas, contratação de serviço, geração de valor... tudo vai se resumir a isso.

O que resta disso, e minha segunda visão, são aqueles 20% que fazem o mundo andar. Te parafraseando, você diz:

Você pode pensar: "Por que você não estuda backend ou outras áreas da programação" e a resposta é muito simples: porque não tem conteúdo decente dessas áreas na internet.

Mas também diz:

Francamente estou de saco cheio disso, não gosto dessa área de front, queria algo mais lógico, mais matemático e que tivesse conteúdo acessível na internet.
Não sei se o único que se sente frustado nesse aspecto, mas eu espero que alguém possa me dar uma luz, pois falta muito pouco para eu abandonar essa carreira.

Sinto te dizer, não dá pra aprender a ser um hacker como em Mr. Robot ou criar o próximo algorítimo tipo máquina Enigma (usada na 2ª Guerra Mundial para decodificar a transmissão de mensagens dos nazistas), muito menos aprender tecnologia forense (como você citou FBI) em algum curso na internet. Isso realmente é um conteúdo reservado a poucas pessoas, que possuem OU muito dinheiro/recursos, OU indicação mesmo, OU pessoas extremamente geniais. Com isso podemos concluir que, se você faz exatamente o que todos fazem, vai ter o mesmo resultado que todo mundo. E isso inclui obviamente, a busca dos canais de ensino, e até mesmo a busca dessa facilidade em encontrar algo tão único e diferente de aprender.

Minha dica é, se quer ser diferente, faça diferente. Se você gosta tanto de matemática (assim como eu, também sou muito mais lógico) faça pesquisas por conta, desenvolva por conta... De outra forma, só encontrará o uso de muita matemática migrando para ciencia de dados, data mining, machine learning, game development, etc. E ai caímos no mesmo dilema, você não vai encontrar cursos que peguem na sua mão, ensinem algo tão difícil de forma exemplar, e ainda assim se diferenciar de todos fazendo o mesmo que todo mundo faz.