Fue creado para aumentar las posibilidades espaciales del Subsistema Archivístico del Ejército de Tierra, cuyos dos principales Archivos Históricos -el Archivo Central del Servicio Histórico Militar, hoy Archivo General Militar de Madrid, y el Archivo General Militar de Segovia- se encontraban saturados.
En la antigua sede de la Academia de Intendencia de Ávila, situada junto al Palacio de Polentinos -declarado Monumento Nacional- el Ejército de Tierra dispone de un conjunto de instalaciones que, junto al gran valor cultural que atesoran, permiten afrontar el crecimiento de sus Archivos con una perspectiva de futuro clara.
El núcleo inicial de los fondos del Archivo General Militar de Ávila lo constituye el antiguo Archivo Histórico de la Campaña, que en 1939 unificó en un solo archivo la documentación militar del Ejército Franquista y del Ejército Republicano. A este fondo inicial se incorporaría posteriormente el Archivo de la Milicia Nacional, compuesto de dos fondos: por un lado el de las propias unidades de la Milicia Nacional (Falange y Requetés) y, por otro, el fondo de la División Española de Voluntarios (División Azul). Ambos bloques fueron transferidos desde el Archivo Central del Servicio Histórico Militar, hoy Archivo General Militar de Madrid, en 1994.
En este núcleo principal del Archivo se conservan los fondos de las instituciones y órganos de la Administración Central, tanto anteriores a la Guerra, como es el caso del Ministerio del Ejército, como de la zona republicana y franquista (Ministerio de la Guerra, Ministerio de Defensa Nacional, Ministerio de Gobernación, Ministerio de Hacienda, Ministerio de Estado, Junta de Defensa Nacional, Cuartel General del Generalísimo, etc.).
Igualmente, se conservan fondos de instituciones y órganos de la Administración Territorial, como son los del Gobierno de Euskadi, la Generalitat de Catalunya, Comandancias y Gobiernos Militares.
En cuanto a las unidades del Ejército Popular, reúne la documentación de Ejércitos, Cuerpos de Ejércitos, Divisiones, Brigadas Mixtas, Brigadas Internacionales, Columnas y Fuerzas Aéreas, entre otras. Las unidades del llamado Ejército Nacional, reúnen la documentación de los diferentes Ejércitos, Cuerpos de Ejército, Divisiones, etc.
A estos fondos se incorporaron posteriormente otros, como los de Hospitales de Sangre, Capitanías Generales, Casa Militar de Franco, Comandancias de Obras, Fábrica de Armas de Toledo, documentación de las unidades ubicadas en los territorios de Ifni y Sahara, Academias y Centros de Enseñanza, entre los más relevantes.
Completan los fondos del archivo las diversas colecciones documentales de fotografías, objetos o recortes de prensa, muchas de ellas recogidas y remitidas por el Servicio Histórico Militar y algunos archivos privados donados por sus propietarios.
La mayor parte de la documentación llegó al archivo organizada en unos casos por el reglamento de archivos militares de 1898, en otros por la instrucción de 1939 y más recientemente por el principio de procedencia, dándose la circunstancia que fondos transferidos en distintos momentos pueden haber llegado clasificados por distinta normativa.
