La identidad del pueblo judío, desde los primeros tiempos, estuvo constituida por sólidos pilares, lo cual explica su persistencia a lo largo de siglos de vicisitudes. La piedra fundacional son sus sagradas escrituras, la Tanaj (más o menos el Antiguo Testamento de la Biblia), que consta de la Torá (o Pentateuco, los cinco primeros libros); los Nevi’im (los libros históricos y los proféticos); y los Ketuvim (los libros poéticos). Estos libros retratan la Alianza del pueblo judío con su Dios único y omnipotente, cuyo nombre no puede ser pronunciado y que se representa —entre los judíos observantes— solo con cuatro consonantes (el tetragrámmaton): YHWH.  

La destrucción del Segundo Templo y la expulsión final de los judíos de Jerusalén en 137 a. C. supusieron un cambio radical en la manera de practicar el judaísmo. La antigua secta de los fariseos asumió la tarea de reinterpretar el judaísmo, que se centró ahora en el estudio de las escrituras, la práctica de la Ley (la Halaja), y la dirección espiritual de los rabinos (los maestros en las complejas reglas de vida del judaísmo). El cautiverio en Babilonia había producido una importante comunidad judía en esa ciudad (actual Iraq), que albergaba tal vez a la mitad de la población judía. Allí se redactó el Talmud, una recopilación de la tradición oral judía que complementa a la Tanaj, escrito tanto en hebreo como en arameo, una lengua semita hermana que fue lengua franca de la región.

Una novedosa secta judía —los cristianos—, que se separó del judaísmo tras la caída del Templo, orientó su prédica hacia los gentiles, los no judíos. Eran seguidores de Jesús de Nazaret, un carismático rabí que había afirmado ser el mesías judío y había sido crucificado por los romanos. Perseguidos inicialmente por Roma, con los siglos prosperaron y el cristianismo se convirtió —gracias al emperador Constantino el grande, en el siglo IV— en la religión más importante del Imperio. Sucesivas prohibiciones y persecuciones contra el paganismo, ahora bajo emperadores romanos cristianos, llevaron a la cristianización de todo el Imperio, incluida la provincia de Palestina. A pesar de las raíces comunes, los cristianos también se convirtieron en perseguidores de los judíos, a quienes acusaban               —injustamente— de haber asesinado a Cristo.

Sin embargo, el cristianismo no solucionó los problemas del Imperio Romano. Los pueblos germanos venían presionando por siglos en las fronteras norteñas del Imperio, y desde el oriente los persas sasánidas azotaban también las fronteras de Roma. Las invasiones germanas finalmente acabaron con el Imperio Romano de Occidente y la ciudad de Roma fue saqueada en 410. El Imperio Romano Oriental (Bizancio, con capital en Constantinopla) resistiría otros mil años, pero eventualmente tuvo que hacer frente a una nueva religión monoteísta: el Islam. El profeta Mahoma inició su prédica en el siglo VII en Arabia, y sus seguidores iniciaron una yihad (guerra santa) que llevó a una rápida serie de conquistas de los territorios persas y buena parte de los territorios bizantinos (Egipto, Palestina, Siria, Norte de África, etc.).

Los judíos, aclimatados ya en el exilio, empezaron a consolidar sus comunidades en varios centros. Los judíos de Babilonia se convirtieron en la comunidad mizrají, que vivía en relativa paz bajo los gobernantes persas primero, y luego bajo los musulmanes, que los consideraban “gente del libro” (Mahoma había considerado a los profetas de Israel hombres iluminados por Alá, Dios). En el siglo VIII los musulmanes invadieron España (gobernada entonces por los germanos Visigodos) y acabaron fundando el Califato de Córdoba bajo Abderramán I. Dada la tolerancia de los musulmanes de Al-Ándalus (el nombre musulmán de España), los judíos de España prosperaron y pronto se convirtieron en la comunidad más importante (la “Edad de Oro”); son llamados judíos sefarditas (por Sefarad, el nombre hebreo de España).

Por otro lado, Europa occidental se reconstituía bajo los francos, un belicoso pueblo germánico que había invadido la antigua Galia romana (la actual Francia). Carlomagno logró finalmente unificar todos los territorios bajo gobierno germánico, y constituyó el Imperio Carolingio en el siglo IX, un gran imperio cristiano que abarcaba las actuales Francia y Alemania, entre otros países. Muchas comunidades judías habían estado migrando hacia Germania (Alemania, llamada Ashkenaz en hebreo) huyendo de las persecuciones recurrentes del cristianismo romano, y constituyeron la base de los judíos asquenazíes, que pasaron a hablar una lengua germánica propia: el yiddish.

La conquista musulmana de Palestina llevó con el tiempo a la conversión de la mayoría de la población al Islam, si bien comunidades cristianas de diferente filiación han seguido existiendo hasta la actualidad. Bajo gobierno musulmán, las pequeñas comunidades judías de Palestina vivieron en relativa paz; por ello, durante las Cruzadas convocadas por los Papas de Roma desde el siglo XI por la reconquista de la Tierra Santa (Palestina), los judíos pelearon del lado musulmán, y sufrieron terribles consecuencias tras las victorias cristianas. Un nuevo imperio musulmán —el Imperio Turco Otomano— puso fin a estas incursiones al conquistar el Imperio Romano de Oriente (Constantinopla cayó en 1453) y cerrar la vía a Tierra Santa. Jerusalén ya era considerada sagrada (y codiciada) por tres religiones: judaísmo, cristianismo e islam.

Siendo un pueblo letrado por tradición, y estando impedidos por ley de poseer tierras, los judíos se convirtieron en los intelectuales y financistas de sus regiones adoptivas. Ello, sin embargo, no impidió que fueran expulsados, confiscados y/o masacrados cada vez que los vientos de la tolerancia religiosa cambiaban. Así ocurrió en España, primero cuando gobernantes musulmanes menos tolerantes asumieron el poder; y luego cuando los Reyes Católicos culminaron la Reconquista (en 1492), y los judíos fueron conminados a convertirse o partir al exilio. La mayoría escogió el exilio y la comunidad sefardita se dispersó por el mundo: no pocos llegaron a América a escondidas, donde eran llamados marranos y perseguidos ocasionalmente por la Inquisición.

Los asquenazíes, por su parte, que también sufrían persecuciones por parte de los cristianos del norte de Europa, se fueron mudando cada vez más al oriente. La Confederación Lituano-Polaca, en los siglos XVI y XVII, fue un refugio de tolerancia religiosa por algún tiempo, pero este gran país multicultural de Europa oriental entró en crisis en el siglo XVIII y sus territorios fueron finalmente repartidos entre tres imperios vecinos: Rusia, Prusia y Austro-Hungría, ninguno de ellos particularmente amistoso con los judíos. Las persecuciones y masacres anti-semitas en la actual Ucrania (entonces absorbida por Rusia), los pogromos, son recordados con particular espanto.

Esta permanente situación de inestabilidad, así como el aumento de los sentimientos anti-semitas en toda la Europa del siglo XIX, dieron origen a un amplio debate sobre el camino que debía tomar el pueblo judío. Un periodista judío de Austro-Hungría, Theodor Herzl, publicó su propia propuesta en 1897: Der Iudenstaat. Proponía migrar en masa de vuelta a Palestina, entonces en manos del Imperio Otomano, para conformar ahí un nuevo estado judío. Si bien la propuesta parecía estrambótica en el momento, eventos como el escandaloso Asunto Dreyfus —por el cual un renombrado militar judío francés fue falsamente condenado por espionaje— crearon las condiciones para una consideración más seria de su ejecución. El movimiento fue llamado Sionismo (por Sion, el monte del Templo de Jerusalén), y se convirtió en adelante en el más acariciado anhelo judío.