早在公元四世纪，即西晋、南北朝时期，在我国北方的潢河（西拉木伦河）和土河（老哈河）一带，居住着契丹族。这时的契丹人，主要还是经营渔猎。一年四季，都在河中捕鱼，冬春水冻，凿冰钩鱼。男子和妇女都骑马射猎。稍后，契丹人也经营畜牧。他们住在帐篷里，“逐寒暑，随水草畜牧”，在各处往来迁徙。

　　契丹的母系氏族制时期，没有留下历史的纪录。一个长久流传的历史传说是：有男子乘白马沿土河而来，女子驾青牛沿潢河而来，至木叶山，相遇为配偶，生八子，以后族属渐盛，分为八部。这个传说显然没有他们的历史那么古老，至多是反映着由母系氏族制过渡到父系氏族制时期迁来这里的一段记忆。八子分八部说，表示着契丹八部之间有着互为兄弟的血缘联系。他们共同的男祖先，是来自以白马作象征的氏族。以青牛作象征的氏族是属于八部以外的另一个部落，和八部通婚姻。

　　契丹的八部在北魏时已经有了确实的记载，八部各有自己的名称：悉万丹、阿大何、具伏弗、郁羽陵、日连、匹黎尔、吐六于、羽真侯（八部名据诸书参订）。这些部名的确切含义，不很清楚，可能是来自最初居地的小地名或者山川湖泊的名称。

　　公元三八九年，鲜卑族的拓拔珪建立北魏，曾经攻打过契丹。此后，契丹不断在北魏边塞侵扰，说明他们已处在父权制时期，展开对外掳掠了。但是，在北魏统治时期，契丹的八个部落，仍然是各自行动。他们各自以马匹和皮毛与北魏相交换，还没有形成部落间的联合，没有统一的组织。

　　契丹各部落各自分散活动的状况，大约延续了很久，直到隋朝末年，才有了新的变化。

　　随着生产的发展和氏族部落的繁衍，逐水草而居的契丹人日益要求开拓自己的领域，赶走他们的邻人，而他们的强大的邻人也在对契丹进行侵袭。五五四年，北齐文宣帝因契丹侵犯边地，分兵两路攻打契丹，契丹大败，丧失了大批的人口和牲畜。一部分契丹人被北齐俘掳了去，安置在各州。不久之后，契丹又遭到北方的强邻突厥的侵袭。隋朝建立后，六○五年，隋将韦云起因契丹在营州侵掠，发大兵击契丹。契丹遭到沉重的打击，大量的人口和牲畜被隋兵掳走。

　　 对外作战的迫切需要，促使契丹各部落逐渐地走向联合。大约在隋末唐初，契丹八部已有作战的兵士四万人，实际人口当已超过数倍。按照氏族制的惯例，互为兄弟的各部落本来有着相互援助的义务。这时，他们开始推举共同的酋长，遇有战事，召集各部落长共同商议，调发兵众，协同作战。但平时狩猎生产，仍由各部落独自进行。恩格斯在论述美洲印第安人的一个发展阶段时指出：“亲属部落间的联盟，常因暂时的紧急需要而结成，随着这一需要的消失即告解散。”①隋末唐初的契丹族正在发展到与此相似的一个历史阶段。

　　不过，契丹人并没有在这个暂时联合的阶段停留多久，当他们认识到联合起来的力量，而外部和内部的那些条件又在要求他们增强这种力量的时候，这个暂时的松散的联合，就迅速发展成为固定的永久的联盟了。