Zsámbék területén már a kőkorszak óta laktak emberek. Az őskőkorszakból több leletet is találtak a település határában, például obszidián baltát, agancskapát és kőedényt. A kora vaskorból egy szobrot, a kelták idejéből egy bronzveretekkel díszített, kétkerekű postakocsit ástak ki a régészek. A Kálvária-hegy délnyugati oldalán római pénzérméket találtak, s előkerült a környékről egy II. századi bronz harsona is, amely hazánk egyik legrégebbi zenei tárgyú emléke.

Sokan úgy gondolják, hogy Zsámbék az egykor mocsaras, zsombékos környezetéről kapta a nevét, mások szerint a falu neve a latin Sambucus, azaz 'bodza' szóból ered. A település a fehérvár–esztergomi és fehérvár–budai utak csomópontjánál alakult ki. Feltételezhetően az 1100 körül, Könyves Kálmán feleségével jött francia kiséret egyik tagja, Aynard lovag (az Aynard nemzetség őse) kapott itt birtokot, s felépíttette a középkori vár ősét.

A nemzetség magánegyházat alapított, mely a gazdagságuk növekedésével tekintélyesebb egyházzá fejlődött. A premontrei prépostság áttelepült Váradhegyfokról Zsámbékra. Ennek pontos dátuma nem ismert, de a franciaországi ninivei monostor katalógusa szerint 1234-ben már létezett a zsámbéki prépostság. Fontos írásos dokumentum a IV. Béla által, 1258-ban kiadott oklevél, melyben a nemzetség három tagja kérésére megerősítette a prépostságot az alapító Aynard nembéli Egyed és Smaragd ispán, valamint Egyed felesége, Pena asszony által juttatott bőkezű adományokban.

Zsigmond 1398-ban hűtlenségük miatt megfosztja az Aynard nezetségbelieket itteni birtokuktól, melyek Maróthi János macsói báné lettek, kinek halála után a tulajdonjogok ismét a királyra szálltak. A település 1467-ben Mátyás királytól mezővárosi rangot kapott. A monostort 1475-ben IV. Sixtus pápa a pálosoknak adományozta. A vár és a falu Mátyás halála után fia, Corvin János birtoka lett, aki pazarló életvitele miatt kénytelen volt eladni Bakócz Tamás (akkor még) egri püspöknek. Vára a végvári rendszer része volt a török időkben, ezért a falu állandó zaklatásoknak volt kitéve, így lélekszáma az évek során jelentősen csökkent, a templom és a monostor is romossá vált.

A vár ebben az időszakban többször gazdát cserélt, hosszabb ideig a törökök kezén is volt, akik újjáépítették. 1686-ben (Vak) Bottyán János generális a Fehérvárról Budára vonuló török lovassereget Zsámbék mellett megsemmisítette. Buda visszafoglalása után, 1689-ben a Zichyek birtoka lett, akik hiányzó lakosságát 1710–1720 között német családokkal pótolták. Zsámbék többségében németajkú volt a II. világháborút követő kitelepítésekig. Ma az össznépességéhez képest elenyésző lakosa vallja magát német nemzetiségűnek.