A creación do Arquivo levouse a cabo mediante Real Orde do 25 de xuño de 1850, mandando levar a efecto a formación dun arquivo xeral do Ministerio de Facenda (Colección Lexislativa de España, p. 352) para reunir toda a documentación xerada polos servizos centrais do Departamento no marco da reorganización da Facenda Pública. Desde entón sitúase no edificio da Real Casa Aduana e Oficinas de Rendas Xerais na madrileña rúa de Alcalá, sede tradicional do Ministerio de Facenda.
A Guerra (1936-1939) supuxo a destrución de gran parte do fondo documental do século XIX e primeiro terzo do XX. A partir de 1944 comeza un período de recuperación e organización do Arquivo. Na década de 1960 iníciase unha política de transferencias do denominado fondo histórico ao Arquivo Histórico Nacional e, posteriormente, ao Arquivo Xeral da Administración.