Emplazado sobre una elevada y estratégica colina, es éste el motivo que ha justificado la existencia de una fortaleza más o menos importante en este mismo lugar desde épocas remotas. Según restos encontrados podemos confirmar este supuesto desde prácticamente tiempos romanos. Este hecho no pasa desapercibido para el reconquistador Alfonso VI, quien aprovechando restos de un castillo árabe levantó una fortaleza encomendando la vigilancia a Rodrigo Díaz de Vivar “el Cid Campeador”. El edificio debería poseer especial importancia, ya que era el lugar elegido como residencia por los monarcas durante su estancia en Toledo.
En el siglo XVI, con Carlos V ocupando el trono, llegó el momento cumbre del Alcázar, ya que el soberano quiso reformarlo creando un palacio digno del Emperador. Alonso de Covarrubias fue el encargado de las trazas en 1537, diseño que fue seguido por Francisco de Villalpando, Juan de Herrera y más constructores de reputada talla. Un siglo después, con el traslado de la capital a Madrid, el edificio perdió la principal función para la que había sido destinado y comenzó un período de declive, sufriendo distintas utilizaciones: cuadra, granero, cárcel, etc.
En 1710 fue incendiado por las tropas del archiduque Carlos, siendo restaurado en 1774 por Ventura Rodríguez para convertirlo en Real Casa de Caridad por orden del cardenal Lorenzana. Otro incendio, provocado en 1810 por las tropas napoleónicas, asoló de nuevo el edificio, que no fue rehecho hasta 1867 para ser utilizado como Academia de Infantería. No fue éste el último incendio sufrido, ya que en 1887 el edificio fue de nuevo pasto de las llamas, siendo posteriormente reparado con aspecto más notable.
El grandioso edificio fue de nuevo protagonista del desastre, ya que en 1936, a causa de la Guerra Civil española, el edificio fue prácticamente reducido a escombros. Afortunadamente fue reconstruido por el Ministerio del Ejército y Regiones Devastadas. Para ello utilizaron como modelo fotografías y planos existentes, dotando al Alcázar de un aspecto similar al que presentaba antes de su destrucción.
En la actualidad el edificio alberga dependencias del Gobierno Militar, la Biblioteca de Castilla la Mancha y el Museo del Ejército, ampliado con fondos traídos desde Madrid.