Nas primeiras décadas do século XIX, a São Paulo colonial ainda era o "burgo dos estudantes", fortemente marcada pela presença da Faculdade de Direito, criada por ordem de Dom Pedro I, em 1827. O ato da criação pode ser reconhecido pela reunião do conselho da Província de São Paulo presidida pelo Brigadeiro Rafael Tobias de Aguiar, realizada em 15 de dezembro de 1831.

O efetivo inicial era composto por 100 homens a pé e 30 a cavalo. A partir de março de 1832, a Instituição, pela falta de aquartelamento próprio, foi instalada na ala térrea do Convento do Carmo, situada no quadrilátero da Sé e hoje demolida. A milícia paulista, nos seus 185 anos de existência, foi organizada e reorganizada diversas vezes.

Inicialmente, recebeu o nome de Guarda Municipal Permanente. No século XX, foi denominada Força Policial, Força Pública, entre outras denominações. Em 1926, foi criada a Guarda-Civil de São Paulo, como instituição auxiliar da Força Pública, mas sem o caráter militar desta. A menor subunidade da Guarda Municipal Permanente, em 1831 era a esquadra, formada por um cabo e 24 soldados.