La creació de l'Arxiu es va dur a terme mitjançant Reial orde de 25 de juny de 1850, manant portar a efecte la formació d'un arxiu general del Ministeri d'Hisenda (Col·lecció Legislativa d'Espanya, p. 352) per a reunir tota la documentació generada pels serveis centrals del Departament en el marc de la reorganització de la Hisenda Pública. Des de llavors se situa en l'edifici de la Real Casa Duana i Oficines de Rendes Generals en el madrileny carrer d'Alcalá, seu tradicional del Ministeri d'Hisenda.
La Guerra (1936-1939) va suposar la destrucció de gran part del fons documental del segle XIX i primer terç del XX. A partir de 1944 comença un període de recuperació i organització de l'Arxiu. En la dècada de 1960 s'inicia una política de transferències del denominat fons històric a l'Arxiu Històric Nacional i, posteriorment, a l'Arxiu General de l'Administració.
