W roku 70 wojna Judei z Rzymem zakończyła się zburzeniem II świątyni w Jerozolimie. Jedyną pozostałością po świątyni i miejscem kultu stała się Ściana Płaczu ( Kotel HaMaarawi – ściana zachodnia).
Życie religijne Żydów musiało być zorganizowane na nowo, bez kapłanów i kultu świątynnego. Uczynili to uczeni faryzeusze spisując ustną Torę, by unormować życie wyznawców judaizmu na ziemiach królestwa Izraela i Judy oraz w diasporze.
Pełna diaspora nastąpiła po klęsce antyrzymskiego powstania Bar Kochby w 135 r. Cesarz Hadrian nakazał na miejscu Jerozolimy wybudować nowe miasto Aelia Capitolina, do którego nie wolno było wchodzić Żydom. Żydzi rozproszyli się po ówczesnym świecie, w basenie Morza Śródziemnego, Babilonii, Persji.
Do końca IV wieku powstał Talmud Jerozolimski, a w 499 r zakończono redakcję Talmudu Babilońskiego. Talmud zawiera rozważania i dyskusje uczonych na tematy religijne, głownie nakazów i zakazów obowiązujących Żydów. Talmud był i jest studiowany przez kolejne pokolenia wyznawców judaizmu. Talmud pozwalał zachować żydowską tożsamość w diasporze.
W wiekach średnich największe znaczenie w diasporze europejskiej zyskali Sefardyjczycy i Aszkenazyjczycy.
Sfaradim po hebrajsku, Sfardim w jidysz, to Żydzi mieszkający w Hiszpanii (Sefard) pod panowaniem muzułmańskim, posługujący się językiem ladino. Wśród twórców wyrafinowanej kultury sefardyjskiej należy wymienić takie postaci jak poeta Jehudi HaLewi, czy reformator judaizmu Majmonides. Ladino to zlatynizowany hebrajski z domieszkami języka kastylijskiego, hiszpańskiego, portugalskiego, zapisywany alfabetem hebrajskim.
Aszkenazim to Żydzi zamieszkujący pierwotnie ziemie niemieckie, a później polskie, litewskie, białoruskie, ukraińskie, czeskie, węgierskie, rumuńskie. Aszkenaz był prawnukiem Noego (Noe, Jafet, Gomer, Aszkenaz) i jego imieniem nazywano Niemców, a później Żydów niemieckich.
Aszkenazyjczycy posługiwali się językiem jidysz zapisywanym alfabetem hebrajskim zgodnie z wymową. Jidysz wywodzi się ze staroniemieckiego (gramatyka i 75% słownictwa), z dużą domieszką słów hebrajskich i słowiańskich. W jidysz powstała w XIX i XX wieku wspaniała literatura (Mendele Mojcher Sforim, Szolem Alejchem, Perec, bracia Singer).
Napływ Żydów w XI wieku na ziemie polskie to ucieczka z ziem niemieckich przed prześladowaniami zainicjowanymi wyprawami krzyżowymi.