O Atlético Mineiro foi fundado em uma reunião na arquibancada do Parque Municipal por um grupo de 22 garotos com média de idade de 13 anos. Liderados por Margival Mendes Leal, o Vate, em 25 de março de 1908, os meninos puderam formar, finalmente, o time de futebol.
Dois anos depois, os fundadores conseguiram comprar a primeira bola, de segunda mão, e realizar o primeiro coletivo - time branco contra o time verde. Já em 1911 foi disputada a primeira partida oficial do clube, que acabou em 0 x 0, com o Minas Gerais Futebol Clube. Naquele mesmo ano, o time mudou seu nome de Atlético Mineiro Futebol Clube para Clube Atlético Mineiro e começou a treinar no campo do Sport Club, primeiro clube de futebol de Belo Horizonte. Mas foi preciso mais um ano de jogos até o Galo conseguir sua primeira vitória. No dia 30 de março de 1912, o Atlético venceu o Acadêmico Esporte Clube por 4 x 1. Dois anos depois, participou do primeiro campeonato oficial de Minas Gerais. A primeira edição do Campeonato Mineiro aconteceria em 1915 - o título foi conquistado pelo Atlético. Os dez anos que se seguiram foram difíceis para o Galo, que só voltou a vencer o campeonato em 1926, numa goleada sobre o América, deca-campeão mineiro, por 6 x 3. No ano seguinte, o Galo enfrenta, pela primeira vez, aquela que se tornaria seu eterno rival: o Cruzeiro - na época Palestra Itália.
O clube mineiro seguiu vencendo vários campeonatos estaduais e, em 1936, venceu o torneio Campeão dos Campeões - uma disputa entre os melhores de Rio, São Paulo e Espírito Santo. Dez anos depois (1946), tem início o período de domínio quase absoluto do Galo nos campeonatos mineiros - foram 10 conquistas em 13 anos. Em 1950, tornou-se o primeiro clube mineiro a viajar para a Europa. A excursão foi um sucesso. O Atlético venceu quatro partidas, empatou uma e sofreu apenas uma derrota, voltando para o Brasil com o título de Campeão do Gelo, após derrotar equipes da França, Bélgica e Alemanha. Apesar dos vários títulos, a principal glória do Atlético ainda estaria por vir e, em 1971, conquista o primeiro Campeonato Brasileiro. Depois disso, o Atlético chegou a ser vice-campeão duas vezes (1977-1980) sendo que, na primeira delas Reinaldo, jogador da equipe foi o artilheiro, com 28 gols, recorde mantido por 20 anos. Apesar disso, o Atlético nunca mais venceu um Brasileirão.