漢獻帝建安二十一年（丙申，公元216年），曹操分匈奴為五部，劉豹被奉為左部師居于新興（今山西忻州市北），后來，劉豹死，其兒子劉淵代為左部帥。

晉武帝西晉太康十年（己酉，公元289年），晉武帝司馬炎以劉淵為匈奴北部都尉。劉淵自稱是匈奴冒頓之后，《晉書·劉元海載記》中記載：“漢高祖以宗女為公主，以妻冒頓，約為兄弟，故其子孫遂冒姓劉氏?！庇州d，劉淵出生前就有祥瑞出現(xiàn)。公元249年---公元253年，呼延氏去龍門求子，忽有一條大魚，頂著兩角，躍鱗炫髻進了龍門祭所，久之方才離去。是夜，呼延氏夢見有魚變?nèi)?。十三個月后，遂生劉淵，字元海，元海之名也由此而來。劉淵自稱冒頓之后，又編了一套類似劉邦斬蛇的這樣一個讖語故事，為日后起事制造輿論依據(jù)。少年時代的劉淵，酷愛讀書，以當時上黨（今山西長治市）大名土崔游為師，遍習《詩經(jīng)》、《周易》、《尚書》等儒學經(jīng)典；又博覽《史記》、《漢書》和諸子學說。因此，他的漢化程度很高，頗受當時太原名流王昶、王渾等的器重。稍長又兼修孔學，射藝精熟，膂力過人，況且他生得體貌偉岸，姿儀不凡，深得時人崇重。

魏元帝景元年間（公元264年---公元265年），劉淵以侍子人質的身份留居洛陽。

西晉泰始初，鮮卑樹幾能在涼州（位于甘肅省西北部）起兵反晉。上黨李熹建議署劉淵為大將軍，發(fā)五部匈奴，西征涼州。大臣孔恂說：“元海若能平?jīng)鲋?、斬樹幾能，恐涼州方有難耳，蛟龍得云雨，非復池中物也！”遂未成行。齊王司馬攸見劉淵才智出眾，于是勸晉武帝司馬炎說：“陛下不除劉元海，臣恐并州不得久寧?！眲Y幸得王渾等人幫助，才幸免于難。后來，劉淵作了五部統(tǒng)帥后，他推誠接士，輕財好施，致使幽、冀等地的名流，紛紛不遠千里來拜附于他。晉惠帝繼位后，輔政大臣楊峻署劉淵為建威將軍、五部大都督、封漢光鄉(xiāng)侯。

八王之亂爆發(fā)后，成都王司馬穎執(zhí)政鎮(zhèn)鄴，又署劉淵為寧朔將軍，監(jiān)五部軍事。此時由于中原戰(zhàn)亂，并州（今太原）境內(nèi)的漢族居民大都流徙江南，在并州胡漢勢力的分布和力量對比發(fā)生了重大變化，匈奴劉氏貴族見有機可乘，開始策劃“興邦復業(yè)”，起兵反晉。

劉淵的從祖父劉宣對其族人說：“昔我先人與漢約為兄弟，憂泰同之，自漢以來、魏晉代興、我單于雖有虛號，無尺土之業(yè)，自諸王侯，降同編戶。今司馬氏骨肉相殘，四海鼎沸，興邦復業(yè)此其時也，左賢王元海姿器絕人，斡宇超世，天若不恢崇單于，終不虛生此人也?！辈痪?，并州刺史司馬騰與安北將軍王浚聯(lián)合進攻司馬穎。司馬穎想以匈奴為外援，遂拜劉淵為北單于、參丞相事。劉淵托稱要回并州招募五部匈奴，于是返回左國城（今山西離石縣）后，又被諸部匈奴共推為大單于，二旬之間，擁眾五萬。

晉惠帝永興元年（甲子，公元304年），劉淵自稱漢王，改年號為元熙，追尊劉禪為孝懷皇帝，立漢高祖以下三祖五宗為神主以祭之，立妻呼延氏為王后，署置百官，以從祖父劉宣為丞相，以師崔游為御史大夫，宗室劉宏為太尉，建立‘漢國’，史稱漢趙，亦稱為前趙。所以說，呼延氏雖名不見經(jīng)傳，但畢竟是一代帝王之母。