После оккупации Палестины римлянами, она стала одной из римских провинций, затем отошла к Византии. В середине 7-го века новой эры Палестина была завоевана мусульманами и стала частью Арабского халифата.
В 633 г. прововерный халиф Абу Бакр отправил в Сирию несколько армий под командованием Омра Бен Аса, Язида Бен Абу Суфьяна, Шархубейля Бен Хасана, Абу Убейды Бен Джираха. В 634 г. Язид нанес римлянам поражение в Вади Араба, расположенное к югу от Мертвого моря, и преследовал их до Газы.
В том же году Омр Бен Ас одержал над римлянами большую победу в битве при Аджнадине, завоевав Фахл, Бисан, Аллуд и Яффу. И когда Теодор, брат римского императора Геркулеса, стал во главе римской армии, халиф Абу Бакр приказал своему полководцу Халеду Бен Валиду двинуться с войском из Ирака в Палестину.
После смерти правоверного халифа Абу Бакра во главе халифата стал Омар Бен Хаттаб. Он приказал мусульманам, находившимся в Палестине, продолжать воевать с римлянами вплоть до полного завоевания этих территорий. Он приказал Халеду Бен Валиду объединить все мусульманские силы в одно войско. Битва при Ярмуке, где мусульманское войско одержало решительную победу, стала поворотным пунктом в истории Палестине, поскольку этой битвой завершилось изгнание оттуда римлян.
Патриарх Сафроний выдвинул условие, что Иерусалим будет сдан лично Омару Бен Хаттабу (в то время Иерусалим назывался Илия). Халиф Омар прибыл в Палестину и написал указ, согласно которому христианам гарантировалась сохранность церквей крестов, но при этом запрещалось проживать в Священном городе евреям. С тех пор на территорию Палестины стали стекаться арабские племена из Сирии, Хиджаза, Неджда, Йемена. Вскоре большинство населения Палестины стало мусульманским, а господствующим языком – арабский.
В омейядский период Палестина была под властью Дамаска, где тогда правил Сулейман Бен Абдель Малик. К числу самых значительных памятников, построенных в тот период, относится здание Куббат ас-Сахра (построено Абдель Маликом Бен Мерваном в том месте, откуда Пророк – да благословит его Аллах и приветствует – вознесся на небо во время своего чудесного путешествия) и мечеть Аль-Акса, достроенная Валидом Бен Абдель Маликом и сохранившаяся до настоящего времени. Следует упомянуть также Белую мечеть и знаменитый дворец, построенные Сулейманом Бен Абдель Маликом в городе Рамле.
После исчезновения Омейдского халифата Палестина перешла под управление аббасидского государства. Палестину посещали халиф Мамун и его сын Махди. Период господства Аббасидов отмечен усилением процесса арабизации Палестины, поскольку происходило смешение пришедших арабов и коренных жителей. В третьем веке хиджры в результате ослабления аббасидского государства большая часть Палестины, а также Ливан, Сирия и Египет попали под власть тулунидов.
Четвертый век хиджры историки считают веком политических волнений. В этот период отмечены нападения на сирийские земли корсаров, пришедших из прибрежных районов Персидского залива, и захвативших Палестину, учинив там полное разрушение. После этого Палестиной правили династии Ахшидидов, Салиджикидов, Фатимидов. Поэтому этот век по праву считается веком анархии.
Иноземное владычество вновь вернулось в Палестину в конце Х1 века. В тот период Европа переживала огромные политические, экономические и социальные проблемы. Усугублялась бедность, не хватало ресурсов, росла численность населения, усилились противоречия между королями и феодалами, между королями и Папой. Поэтому поход на Восток представлялся удобным выходом из создавшегося положения. Моральная мобилизация началась проповедью Папы Урбана Второго в 1095 г., в которой он призвал массы освободить гроб Господень от мусульман и очистить от них Иерусалим.