猶太人的第三次大流散是在羅馬帝國期間。公元前二世紀初,羅馬帝國不斷強大,并向東大力擴張,于公元前63年先后侵占了耶路撒冷和整個巴勒斯坦地區。猶太人為反抗羅馬人的入侵,曾舉行了三次武裝起義,史稱“猶太戰爭”。非凡是公元115年的最后一次起義,曾給羅馬帝國以沉重的打擊,把羅馬駐軍趕出了巴勒斯坦南部,并占領耶路撒冷。但起義于公元135年失敗。經過三次大起義和三次大屠殺,猶太人死亡150多萬人,幸存者幾乎全部逃離和被驅逐出巴勒斯坦,從而結束了猶太民族主體在巴勒斯坦生存的歷史。直到20世紀初,猶太人在政治、經濟上同巴勒斯坦基本上沒有什么聯系了。
公元7世紀,出生在阿拉伯半島的穆罕默德創立了伊斯蘭教,并統一了分散在阿拉伯半島上的各民族和部落,后又建立了統一的阿拉伯帝國。公元637年,巴勒斯坦并入帝國后,其居民、宗教、文化逐漸阿拉伯化,形成巴勒斯坦阿拉伯人。1300多年來,他們在這一地區勞動生息,成為這塊土地的主人。
16世紀50年代,新興的奧斯曼帝國不斷向外擴張。巴勒斯坦從1518年起納入帝國版圖,直到第一次世界大戰為止,巴勒斯坦被奧斯曼帝國統治了400多年。由于奧斯曼帝國鼓勵傳播伊斯教和阿拉伯文化,因此,這里的阿拉伯民族特征始終沒有改變。
可以說,公元一世紀以來,巴勒斯坦的猶太人為數很少,1880年只有兩萬多人,1918年也只有5、6萬人,僅占當地居民的8%。