A labdarúgás Madridba az Institución Libre de Ensenanza egyetem tanárai és diákjai által jutott el, akik közül többen Nagy-Britanniában (Oxford és Cambridge) tanultak, így megismerkedhettek a játék alapjaival. Ők alapították meg 1897-ben az első madridi labdarúgóklubot, a Footbal Club Sky-t. Ez a klub 1900-ban kettévált, a New Foot-Ball de Madrid és a Club Espanol de Madrid léptek a Footbal Club Sky helyébe. Utóbbi klubból 1902. március 30-án jött létre a Madrid Football Club, a Real Madrid közvetlen elődje. Mindössze három évvel alapítása után a Madrid FC megnyerte első rangosabb serlegét, miután legyőzte az Athletic Bilbaót a spanyol kupa döntőjében. Ezután még háromszor egymás után sikerült a kupát elhódítaniuk. 1920-ban, XIII Alfonz király a Real (királyi) jelzőt adományozta a klubnak, így a hivatalos neve Real Madrid CF lett.

1929-ben, a spanyol labdarúgó-bajnokság első szezonjában a Real Madrid egészen a szezon utolsó mérkőzéséig az első helyen állt, ám mivel az utolsó fordulóban vereséget szenvedett az Athletic Bilbao vendégeként, a bajnoki címet végül az FC Barcelona nyerte, a Real pedig a második helyen végzett, mindössze 1 ponttal a katalán csapat mögött. A Real első bajnoki címét az 1931–32-es szezonban szerezte. A következő szezonban ismét az első helyen végeztek, az Athletic Bilbao után a második duplázó csapat lett az országban.

A klub elnöke 1945-ben a klub stadionjának későbbi névadója, Santiago Bernabéu Yeste lett. Elnöksége alatt felújították a Santiago Bernabéu stadiont (ekkor még Estadio Chamartín) és a klub korábbi edzőkomplexumát, a Ciudad Deportivát is. Az 50-es évek elején kialakította a klub mai arculatát, miszerint főleg külföldi világklasszis játékosokra építi csapatát. 1955-ben a L'Équipe újságírója, Gabriel Hanot ötletéből, Sebes Gusztáv segítségével Bernabéu megalapította a BEK-et, amely ma Bajnokok Ligája néven ismert. Az újonnan alakult sorozatban a Real Madrid sokáig egyeduralkodó volt, ugyanis 1956 és 1960 között zsinórban megnyerte az első öt kiírást. Ezek közül az egyik legemlékezetesebb döntő az 1960-as volt, amikor a Hampden Parkban, több mint százezer néző előtt 7–3-ra győzték le az Eintracht Frankfurt együttesét, Puskás Ferenc 4, Di Stéfano 3 góljával. Amikor a Real ötödször is megnyerte a sorozatot, megkapta az eredeti serleget. A Real hatodik BEK-győzelmét 1966-ban aratta a Partizan Beograd 2–1-es legyőzésével. A csapat ekkor főleg spanyol játékosokra épült, becenevük a Ye-yé volt. Ez a csapat az 1966-os győzelem mellett kétszer (1962, 1964) döntőt is játszhatott.

A 70-es években a Real Madrid összesen 5 bajnoki címet és 3 kupagyőzelmet szerzett. 1971-ben a Real KEK-döntőt játszhatott a Chelsea ellen, amelyet újrajátszás után az angol klub nyert meg 2–1-re. 1978-ban, miközben zajlott a világbajnokság, elhunyt Santiago Bernabéu. A FIFA Bernabéu tiszteletére háromnapos gyászszünetet rendelt el a világbajnokságon. Szintén Bernabéu emlékére, 1979-ben a Real Madrid megalapította a Santiago Bernabéu-trófeát, melyet minden nyáron, a szezon kezdete előtt adnak át.

A 80-as évek elején a Real Madrid egy kisebb hullámvölgyben volt, egészen addig, amíg fel nem nőtt egy főleg saját nevelésű játékosokra épülő generáció. Egy spanyol újságíró, Julio César Iglesias a csapatnak az egyik játékos, Emilio Butragueno beceneve után a Quinta del Buitre (szabad fordításban „keselyűsereg”) nevet adta a csapatnak. A csapat gerincét adó további játékosok: Manolo Sanchís, Martín Vázquez, Míchel és Miguel Pardeza. Ez a csapat, bár Pardeza 1986-ban a Real Zaragozához távozott, egyike lett Spanyolország és Európa legeredményesebb csapatainak. A klub a 80-as évek második felében kétszer nyerte meg az UEFA-kupát (1985-ben a Videoton ellen), ötször a bajnokságot, és háromszor a spanyol szuperkupát is sikerült elhódítania.

A 90-es évek elején a „Quinta del Buitre” feloszlott, mivel Vázquez, Butragueno és Míchel is elhagyta a klubot. 1996-ban az akkori elnök, Lorenzo Sanz Fabio Capellot ültette a Real kispadjára. Capello után a német Jupp Heynckes érkezett a Real Madrid kispadjára. Vele 1998-ban ismét megnyerték a BL-t, ekkor a Juventust győzték le 1–0-ra.

2000 júliusában Florentino Pérezt választották meg a klub új elnökének. Első jelentősebb intézkedése elnökként Luis Figo megszerzése volt. Az ő elnöksége alatt nagyon sok pénzt költöttek játékosvásárlásra (Zinedine Zidane 75 millió euróért történő megvásárlása egészen 2009-ig rekord volt), és létrejött egy főleg nemzetközi sztárokra (Figo, Zidane, Ronaldo, Raúl, Roberto Carlos, Beckham) épülő csapat, a „Galaktikusok”. Bár egy-egy alkalommal megnyerték a bajnokságot és a Bajnokok Ligáját is, a klub elvárásaihoz képest ez egy viszonylag sikertelen időszak volt, ugyanis a 2003-as bajnoki címtől egészen 2006-ig a gárda egyetlen trófeát sem tudott nyerni.

2006 nyarán a frissen megválasztott elnök, Ramón Calderón Fabio Capellot szerződtette edzőnek, sportigazgatónak pedig a klub korábbi játékosát, Predrag Mijatovićot nevezte ki. 2007-ben a klub négy év után ismét bajnoki címet ünnepelhetett. Capello munkájára az újbóli bajnoki cím ellenére ismét nem számított a klub, helyére a klub korábbi játékosa, a német Bernd Schuster került. A 2007–2008-as szezont, immár Schusterrel, ismét az első helyen fejezték be, így 18 év után sikerült ismét egymás után két bajnoki címet szerezniük. A 2008/2009-es szezonban már korántsem úgy kezdték az idényt a blancók ahogyan azt elvárták volna a drukkereik. Fájó vereségekbe szaladtak bele és egyszerűen nem tudtak talpra állni. Ennek hatására a vezetőség úgy döntött, hogy meneszti a csapat vezetőedzőjét, Bernd Schustert, és helyére a Sevilla korábbi sikertrénerét Juande Ramost nevezi ki. Kinevezése 2008.december. 9-től a szezon végéig tart, az eredmények függvényében azonban hosszabbításra van lehetőség.

2009. május 14-én ismét Florentino Pérez lett a klub elnöke. Terveiben szerepelt egy új „galaktikusok” létrehozása, melyre előzetesen 300 millió eurót szán. Első komolyabb intézkedése a vezetőedzőt illetően történt, Juande Ramos helyett Manuel Pellegrinit szerződtette. Nem sokkal később a Real Madrid megszerezte a már régóta a kívánságlistájukon szereplő Kakát 65 millió euróért. Később leigazolta Cristiano Ronaldót, Raúl Albiolt és Karim Benzemát is. Cristiano Ronaldo 94 millió eurós vételárával megdöntötte Zidane korábbi, 75 millió eurós csapatváltását, szintén Pérez állított fel, előző elnöki ciklusa alatt. Egy évvel később, mivel ismét nem sikerült bajnoki címet szerezni, távozott a vezetőedző Manuel Pellegrini, helyére a Chelsea és az Internazionale korábbi mestere, José Mourinho érkezett. Vele együtt öt játékos, Sergio Canales, Pedro León, Sami Khedira, Ricardo Carvalho és Mesut Özil érkezett. Távozott viszont a klub két ikonja, a csapatkapitány Raúl (Schalke) és Guti (Beşiktaş).