Cuentan las viejas crónicas que cuando Alfonso VI reconquista Madrid y entra en la ciudad, subiendo por la Cuesta de la Vega, se desprende un trozo de la muralla árabe, dejando al descubierto una imagen de la Virgen que los cristianos habrían ocultado al comenzar la invasión árabe. Como la imagen aparece en la “Almudayna” árabe, da lugar la leyenda al nacimiento de la patrona de Madrid, la Virgen de la Almudena
La leyenda tiene realmente poca base histórica, dado que la ciudad de Madrid, con sus murallas, no fue fundada hasta mediados del siglo IX por el emir cordobés Mohamed I. Parece más probable por tanto que la imagen primitiva fuese tallada en la Baja Edad Media, durante la repoblación cristiana de la ciudad, para ser colocada en el altar de la antigua mezquita mayor, posterior iglesia de Santa María (hoy desaparecida). Probablemente, para diferenciarla de otras iglesias que fueron surgiendo en los arrabales de la primitiva ciudad islámica, se conocería al templo como Santa María de la Almudena, porque en árabe Al-mudayna quiere decir "la ciudadela", por estar encerrada en el primer perímetro amurallado de origen árabe, que a modo de ciudadela, quedaba encerrado en la muralla cristiana posterior.
La imagen actual, que data de los siglos XV-XVI, ha sido venerada en diversos templos madrileños: primero, en la destruida iglesia de Santa María, posteriormente en la Colegiata de San Isidro, y actualmente presidiendo un retablo gótico en el crucero de la Catedral de Madrid, que lleva su nombre (en el muro de la Catedral, por el lado que da a la Cuesta de la Vega que se indica en la leyenda, hay una imagen de la virgen y una placa conmemorativa del hecho descrito).