O Arquivo Histórico da Cidade de São Paulo é a divisão responsável pela custódia, conservação, processamento técnico e divulgação do valioso conjunto documental, constituído de textos, fotografias, mapas e plantas produzidos pela administração pública municipal desde 1555 até a primeira metade do século XX, entre outros registros significativos para a história da cidade, como os fundos documentais particulares.
Tendo como meta recuperar o acesso público ao acervo, o Arquivo está iniciando um processo de informatização, com a criação de base de dados específica para seus conjuntos documentais. O acervo do Arquivo é reconhecidamente de valor probatório e histórico-cultural, além de constituir-se em registro da memória local e testemunho do cotidiano da cidade. Conta com um laboratório de Restauração (suporte papel) e Encadernação, biblioteca especializada em história de São Paulo, além de cadastro de denominação de logradouros públicos com aproximadamente 65.000 nomes.
Localiza-se no Edifício Ramos de Azevedo desde janeiro de 2000, como etapa inicial para implementação do projeto Casa da Memória Paulistana. Tem sob sua responsabilidade a realização do Concurso de monografias sobre a história dos bairros de São Paulo e a publicação da Revista do Arquivo Municipal. O Arquivo, enquanto instituição, precede a criação do DPH, uma vez que tem raízes no Departamento de Cultura criado em 1935.
O Arquivo Histórico Municipal está sediado no Edifício Ramos Azevedo.