Als Abdurrahmân Spanien erreichte, hatten sich die nordafrikanischen Araber schon auf der iberischen Halbinsel niedergelassen und begannen eines der ruhmvollsten Kapitel der islâmischen Geschichte zu schreiben.
Nachdem ihre Streifzüge in Frankreich von Karl Martell geschwächt wurden, begannen die Muslime ihre ganze Aufmerksamkeit auf das zu richten, was sie Al-Andalus nannten. Al-Andalus ist die arabische Angleichung des Wortes Wandalen (auf Spanisch "vandalos"), einem gotischen Stamm, der sich in Spanien und Nordafrika niederließ. Die Muslime gründeten dort eine Zivilisation, die Spanien so zuvor nicht kannte. Sie regierten weise und gerecht und behandelten die Christen und Juden sehr tolerant, mit dem Resultat, dass viele den Islâm annahmen. Sie verbesserten auch den Handel und die Landwirtschaft, förderten die Künste, leisteten einen wertvollen Beitrag für die Wissenschaft und machten Cordoba zur fortschrittlichsten Stadt in Europa.
Im zehnten Jahrhundert konnte Cordoba mit einer Bevölkerung von fast 500.000 prahlen, im Vergleich zu Paris mit nur 38.000. Laut der Chroniken hatte die Stadt 700 Moscheen, etwa 60.000 Villen und 70 Büchereien, wobei eine Bibliothek im Schnitt 500.000 Manuskripte beherbergte und einen Mitarbeiterstab von Forschern, Illuminatoren (Buchmaler), Kopisten und Buchbindern beschäftigte. Cordoba hatte auch an die 900 öffentliche Badehäuser, Europas erste Straßenlichter und, fünf Meilen außerhalb der Stadt, die Residenz des Kalifen, Madînat Az-Zahra. Diese war ein Komplex aus Marmor, Stuck, Elfenbein, und Onyx, der Bau dauerte vierzig Jahre und die Kosten betrugen ein Drittel des Einkommens der Stadt. Diese Palaststadt war bis zu ihrer Zerstörung im elften Jahrhundert eines der Wunder seiner Zeit. Die Restauration, die seit den Anfängen dieses Jahrhunderts begann, ist immer noch im Gange.
Im elften Jahrhundert begann eine kleine Gruppe christlicher Widerständler zu wachsen und unter Alfonso VI nahmen christliche Streitkräfte wieder Toledo ein. Es war der Beginn einer Periode, welche die Christen die Reconquista - „Rückeroberung“ - nannten. Sie war die Konsequenz eines ernsten Problems, das diese gebildete, graziöse, und bezaubernde Ära ruinierte: die Unfähigkeit der zahlreichen Herrscher des islâmischen Spaniens ihre Einigkeit beizubehalten. Dies schwächte sie so sehr, dass die muslimischen Herrscher Spaniens die Almoraviden (Al-Murâbitûn), die nordafrikanische Berberdynastie, um Hilfe bitten mussten als die christlichen Königreiche begannen, eine ernste Gefahr zu werden. Die Almoraviden kamen und zerschlugen den christlichen Aufstand, aber übernahmen schließlich selbst die Herrschaft. Im Jahr 1147 wurden die Almoraviden ihrerseits von einer anderen Koalition berberischer Stämme besiegt, den Almohaden (Al-Muwahhidûn).
Obwohl so ein innerlicher Konflikt nicht selten war - die christlichen Königreiche bekriegten sich auch ständig untereinander - zerstreute er die Kraft der Muslime zu einer Zeit, als die Christen begannen, starke Allianzen auszuhandeln, mächtige Armeen zu bilden, und Kampagnen einzuleiten, die die arabische Herrschaft später beenden würden.
Die Araber gaben nicht leicht auf: Al-Andalus war auch ihr Land. Aber Provinz um Provinz mussten sie sich zurückziehen, zuerst aus dem nördlichen Spanien, dann aus Zentralspanien. Bis zum dreizehnten Jahrhundert waren ihre einst umfangreichen Gebiete auf einige verstreute Königreiche tief in den Bergen Andalusiens reduziert – wo sie immerhin für die nächsten 200 Jahre nicht nur überlebten, sondern auch gediehen.
Es ist seltsam und ergreifend, dass die Araber gerade in diesen letzten zwei Jahrhunderten ihrer Herrschaft dieses außergewöhnlich wunderbare Königreich erschufen, für welches sie am meisten berühmt waren: Granada. Es scheint, als hätten sie während ihres langsamen Rückzugs gen Süden plötzlich erkannt, dass sie, wie Washington Irving schrieb, ein Volk ohne Land waren und sich daran machten ein Denkmal zu setzen: Die Alhambra, eine Zitadelle über Granada, die ein Autor „die Ehre und das Wunder der zivilisierten Welt“ nannte.
Die Alhambra (Arabisch: Al-Hamrâ – die Rote) wurde im Jahr 1238 von Muhammad ibn Al-Ahmar begonnen, der zum Wohle seines Volk einst zum König Ferdinand von Aragon ritt, als dieser Granada belagerte, und demütig anbot der Lehnsmann des Königs zu werden, um im Gegenzug Frieden zu erbitten.
Es war ein nötiger Schritt, aber auch ein schwieriger – vor allem als Ferdinand ihn einberief sein Abkommen zu halten, als er während der Belagerung Sevillas im Jahre 1248 Truppen bereitstellte, die den Christen gegen Muslime helfen sollten. Aus Treue zu seinem Schwur hielt Ibn Al-Ahmar (sein Versprechen) ein und Sevilla fiel in die Hände der Christen. Als er aber nach Granada zurückkehrte, wo ihn jubelnde Menschenmengen als Sieger kürten, enthüllte er seine Beunruhigung in der kurzen, traurigen Antwort, die er wieder und wieder über die Wände der Alhambra schrieb: „Es gibt keinen Sieger außer Allâh.“
Mit den Jahren entwickelte sich, was als Festung begann, unter Ibn Al-Ahmars Nachfolgern allmählich eine bemerkenswerte Reihe feiner herrlicher Gebäude, ruhiger Höfe, klarer Teiche, und versteckter Gärten. Später nach Ibn Al-Ahmars Tod wurde Granada selbst erneuert und wurde, wie ein arabischer Besucher schrieb, „wie eine Silbervase gefüllt mit Smaragden.“
In der Zwischenzeit warteten die christlichen Könige außerhalb von Granada. In erbarmungsloser Folge hatten sie Toledo, Cordoba, und Sevilla zurückerobert. Nur Granada überlebte. Dann, im Jahre 1482, in einem unbedeutenden Streit, spaltete sich das muslimische Königreich in zwei verfeindete Parteien und zur gleichen Zeit heirateten zwei starke christliche Herrscher, Ferdinand und Isabella, und verbanden ihre Königreiche. Infolgedessen fiel Granada zehn Jahre später. Am 2. Januar 1492 – dem Jahr der Entsendung Columbus' nach Amerika – zogen Ferdinand und Isabella die Flagge des christlichen Spaniens über der Alhambra, und der letzte muslimische König Boabdil ritt weinend ins Exil, mit seiner verbitterten Mutter im Nacken, die sagte: „Weine wie eine Frau über die Stadt, die du nicht wie ein Mann verteidigen konntest!“
Um das Schicksal des Islâm in Spanien zu besiegeln wurden die Muslime schnell und gründlich ausgelöscht. Niemals, so schrieb Irving, war die Ausrottung eines Volkes konsequenter. Viele der Muslime trugen jedoch durch ihre Auswanderung nach Nordafrika Reste der spanischen Ära mit sich und waren daher fähig wichtige Beiträge zum materiellen und kulturellem Leben in ihrer neuen Heimat zu leisten.
Die Auswanderung kam jedoch später. Zu Beginn blieben die meisten Muslime einfach in Spanien; abgeschnitten von ihren Wurzeln, durch Zeit und Distanz, hatten sie einfach keinen anderen Ort, zu dem sie gehen konnten. Bis zur Inquisition war die Lage in Spanien weiterhin relativ tolerant. Die Christen erlaubten den Muslimen zu arbeiten, in der Armee zu dienen, Land zu besitzen, und sogar ihre Religion auszuüben – alles Zugeständnisse wegen der Wichtigkeit der Muslime für die spanische Wirtschaft. Aber dann wurden den Muslimen zur Zeit der Inquisition alle Rechte entzogen, ihr Leben wurde schwieriger, sie litten unter Folter und Massakern und viele begannen auszuwandern. Am Anfang des siebzehnten Jahrhunderts, wurden letztendlich die meisten Überlebenden gewaltsam ausgewiesen.