A Instituição Arquivo Público data do ano de 1896, durante o Governo de Antônio Correa da Costa, o qual, por sua vez, delegou a sua organização a Estevão de Mendonça. Este, diante do grande volume de documentos setecentista e oitocentistas providenciou a confecção, por um latoeiro da Capital, de latas de folhas de flandres, nelas depositando os documentos classificados por ano, conforme aponta a Revista do Arquivo Público (1982)
Em 1931, o Dr. Artur Antunes Maciel, Interventor Federal em Mato Grosso, instituiu o Decreto n° 113, anexando o Arquivo à Biblioteca Pública, passando a denominar-se Biblioteca e Arquivo Público, vinculada à Secretaria de Educação, Cultura e Saúde.
Proeminentes figuras da sociedade matogrossense se revezaram na Direção da Biblioteca e Arquivo Público, até o ano de 1972, tais como: Estevão de Mendonça, Alexandre Addor, Manoel Soares de Campos, Mário Motta, Gervásio Leite, Benedito Francisco de Melo, Jocelin Leiocádio da Rosa, Zeferino Pereira Borges, Nilo Póvoas, Benedito de Figueiredo, Vera Iolanda Randazzo. A partir de 1972, permaneceu na direção do Arquivo Público: Vera Randazzo e sucederam-na: Maria Auxiliadora Azevedo Coutinho Gomes, Heitor Correa da Rocha, Pe. José de Moura e Silva, Maria Estela Tegon de Pinho, Clementino Nogueira de Souza, Ana Paula Poncinelli Rodrigues Garcia, José Fernandes de Alencastro, José Valdevino, José Roberto Stopa, Cláudio Borges Alves e atualmente Vanda da Silva.
Com a criação da Secretaria de Estado de Administração, ocorrida durante o Governo de José Manuel Fontanilhas Fragelli (1972), o Arquivo Público desvinculou-se da Secretaria de Educação e Cultura, passando a fazer parte da estrutura da Secretaria ora criada, com a denominação de Departamento de Documentação e Arquivo.
Em 1979, o Departamento de Documentação e Arquivo passou a denominar-se "Arquivo Público de Mato Grosso", o que por sua vez ficou alterado, no ano de 2002, para Superintendência de Arquivo Público.