以色列最初单指个人名字后演化为民族称谓，最早的历史可追溯公元前12世纪左右。
犹太人起源于约4000年前的美索不达米亚平原，后因躲避自然灾害迁徙至埃及尼罗河三角洲东部，因而得名“希伯来人”。据《圣经》记载，希伯来人的祖先——亚伯拉罕在公元前2000年初就率领他们的部族来到了巴勒斯坦地区，这也是为什么后来19世纪末，犹太复国主义运动兴起，犹太人开始大批移居巴勒斯坦地区的原因。
由于当时的气候干旱，一部分的希伯来人在亚伯拉罕之孙时期来到了埃及，他们这部分人在埃及居住了几百年之久，作为外来者肯定处于被埃及统治的地位，但是埃及对他们的统治变得越来越残酷，在当时首领摩西的带领之下，他们出走埃及，回到了巴勒斯坦地区。
耶路撒冷
当时的巴勒斯坦地区已经有另一支迦南人在此居住了，回到埃及之后，双方为争夺地盘关系变的十分紧张。而此时，以色列犹太人尚未形成自己的国家，而是处于部落联盟时代（里面包含了以色列部落和犹太部落）。这就相当于我们的尧舜禹时期，这时的中国也处于部落联盟时代。
这一时期在犹太史上被称为“士师时代”。所谓的“士师”，是犹太人的先知、领袖和统帅三位一体的人，被看作是上帝选定的、被上帝赋予智慧的一群人，也就是军事民主时代的“王”或者叫“军事首领”。
到了公元13世纪末——前12 世纪初，海上民族入侵巴勒斯坦地区，他们被称为“腓力斯丁人”。这时希伯来人便同入侵者们斗争，在斗争的过程中加速了内部阶级的分化，逐渐形成了国家，最为著名的首领为扫罗，在扫罗称王以后以色列犹太人就进入了国家时代。
虽然扫罗在战争中取得了很大的成就，在他的领导下，建立了一支强大的军队战胜了腓力斯丁人，但是他的统治并不是所有人都服从。
犹太部落联盟的首领大卫背叛了他，上文提到过他们分为两个部落：以色列部落与犹太部落，大卫率领他所统治的南方犹太人的军队投靠了入侵者——腓力斯丁人，不出意料的扫罗战败了，但在扫罗死后，达成目的大卫脱离了腓力斯丁人即位为王，统一了犹太和以色列两个部落，定都耶路撒冷。
毕竟入侵者还没有完全被打败，大卫便又同腓力斯丁人的仇敌推罗结成同盟，大卫真的是将“敌人的敌人就是我的朋友”玩的明明白白，征服了约旦河以东、死海以南的地区，扩大了自己的统治范围。
遗憾的是，大卫的这份霸业没有流传很久，在他的儿子所罗门死后，以色列分裂成了两个国家，既北方的以色列王国，定都撒玛利亚；南方的犹太王国，定都耶路撒冷。前者仅仅存在了两百余年，后者虽然多灾多难，但断断续续存续到了罗马人统治时期。
其中亚述、埃及、新巴比伦、波斯帝国以及亚历山大帝国罗马人都曾统治过犹太王国。其中最为有名事件就是：公元前586年，新巴比伦王国时期的尼布甲尼撒二世率兵攻打犹太王国，攻陷了他们的首都耶路撒冷，并将其居民掳到了巴比伦尼亚，史称“巴比伦之囚”，这些被掳走的人直到新巴比伦被灭之后才被放回了故乡。
公元前63年，罗马帝国灭犹太王国，当然犹太人也曾反抗，但被罗马镇压，他们也被逐出了巴勒斯坦地区，流散于世界各地。
直到1947年11月29日，联大通过决议，决定在巴勒斯坦地区分别建立一个阿拉伯国和一个犹太国。1948年5月14日，以色列国成立。
