Foi creado para aumentar as posibilidades espaciais do Subsistema Archivístico do Exército de Terra, cuxos dous principais Arquivos Históricos -o Arquivo Central do Servizo Histórico Militar, hoxe Arquivo Xeral Militar de Madrid, e o Arquivo Xeral Militar de Segovia- atopábanse saturados.

Na antiga sede da Academia de Intendencia de Ávila, situada xunto ao Palacio de Polentinos -declarado Monumento Nacional- o Exército de Terra dispón dun conxunto de instalacións que, xunto ao gran valor cultural que atesouran, permiten afrontar o crecemento dos seus Arquivos cunha perspectiva de futuro clara.

O núcleo inicial dos fondos do Arquivo Xeral Militar de Ávila constituír o antigo Arquivo Histórico da Campaña, que en 1939 unificou nun só arquivo a documentación militar do Exército Franquista e do Exército Republicano. A este fondo inicial incorporaríase posteriormente o Arquivo da Milicia Nacional, composto de dous fondos: por unha banda o das propias unidades da Milicia Nacional (Falanxe e Requetés) e, por outro, o fondo da División Española de Voluntarios (División Azul). Ambos os bloques foron transferidos desde o Arquivo Central do Servizo Histórico Militar, hoxe Arquivo Xeral Militar de Madrid, en 1994.

Neste núcleo principal do Arquivo consérvanse os fondos das institucións e órganos da Administración Central, tanto anteriores á Guerra, como é o caso do Ministerio do Exército, como da zona republicana e franquista (Ministerio da Guerra, Ministerio de Defensa Nacional, Ministerio de Gobernación, Ministerio de Facenda, Ministerio de Estado, Xunta de Defensa Nacional, Cuartel Xeral do Xeral, etc.).

Igualmente, consérvanse fondos de institucións e órganos da Administración Territorial, como son os do Goberno de Euskadi, a Generalitat de Catalunya, Comandancias e Gobernos Militares.

En canto ás unidades do Exército Popular, reúne a documentación de Exércitos, Corpos de Exércitos, Divisións, Brigadas Mixtas, Brigadas Internacionais, Columnas e Forzas Aéreas, entre outras. As unidades do chamado Exército Nacional, reúnen a documentación dos diferentes Exércitos, Corpos de Exército, Divisións, etc.

A estes fondos incorporáronse posteriormente outros, como os de Hospitais de Sangue, Capitanías Xerais, Casa Militar de Franco, Comandancias de Obras, Fábrica de Armas de Toledo, documentación das unidades situadas nos territorios de Ifni e Sahara, Academias e Centros de Ensino, entre os máis relevantes.

Completan os fondos do arquivo as diversas coleccións documentais de fotografías, obxectos ou recortes de prensa, moitas delas recollidas e remitidas polo Servizo Histórico Militar e algúns arquivos privados doados polos seus propietarios.

A maior parte da documentación chegou ao arquivo organizada nuns casos polo regulamento de arquivos militares de 1898, noutros pola instrución de 1939 e máis recentemente polo principio de procedencia, dándose a circunstancia que fondos transferidos en distintos momentos poden chegar clasificados por distinta normativa.