Olá,
Dando uma googlada dá para encontrar alguns cursos de Matemática EAD, todos Licenciatura.
Estudei licenciatura em matemática em uma faculdade “não-top” e minha experiência é que os conhecimentos são superficiais comparados a um bacharelado ou mesmo a um curso de Ciência da Computação.
Tenho base em alguns assuntos que podem ser úteis no estudo da computação, como: Notação matemática, Lógica e demonstrações, Geometria, Probabilidade e Estatística, Álgebra abstrata, Álgebra linear, Cálculo.
Só que com um porém: como o curso é feito para formar professores de ensino básico, a profundidade nos assuntos não é suficiente para alguém que quer trabalhar em pesquisa (mesmo como amador). Sempre vai ter que correr atrás de mais conhecimentos por conta própria.
E agora uma coisa muito séria:
Ultimamente a qualidade dos cursos caiu muito, mas muito mesmo. Na minha época ainda peguei uma grade curricular bem equilibrada entre as matérias “matemáticas” e as “didáticas”.
Devido ao baixo nível dos estudantes que entram na faculdade, hoje em dia eles diminuiram a carga horária das matérias específicas substituindo por disciplina que são meramente um complemento do ensino básico, como língua portuguesa, meio ambiente, empreendedorismo, inclusão social… além da natural queda do volume de conteúdo transmitido, já que o professor é obrigado a dar um curso em que ninguém leve bomba, nivelando a turma por baixo.
Bom!
Enrolei, enrolei e não ajudei em nada até agora! 
Mas o que eu queria dizer é o seguinte: no curso de licenciatura em matemática você vai eventualmente encontrar conteúdo útil para o que quer, que é se aprofundar em áreas da computação. Só que essa informação está muito “diluída” ao longo do curso, você vai investir um tempo valioso em mais um montão de matérias que não agregam nada ao seu projeto de estudos atual.
O resultado é que não vale a pena investir 3 anos nesse curso.
Seria mais interessante separar os assuntos importantes e estudá-los por conta própria (de qualquer maneira é o que teria que fazer na faculdade EAD…), a única dificuldade adicional é ter que selecionar os assuntos e os livros sem orientação de um professor. Mas você poderia encontrar ajuda no próprio GUJ ou em fóruns de matemática.
No final terá uma boa base em poucos meses, e por muito menos dinheiro.