東漢桓帝年間，鮮卑首領檀石槐在高柳郡北彈汗山歠仇水建鮮卑王庭，創立了鮮卑歷史上第一個部落軍事聯盟。漢靈帝時檀石槐去世，部落聯盟衰落瓦解，最終解散。此後的鮮卑人又開始畜牧遷徙，各自為政，互相攻伐。這時的鮮卑人基本有三大集團：太原郡、雁門郡的步度根部，步度根是檀石槐的孫子；代郡、上谷郡的軻比能部，軻比能比較能接受中原文化；遼西、右北平、漁陽的部落，這個部落實力最強。
曹魏時軻比能部統一控制了其他兩部，將漠南地區化為一統，從雲中、五原到遼水都成為鮮卑的可控地區，鮮卑部落聯盟再度成立。鮮卑族歸屬於烏桓校尉的管轄，軻比能統一各部讓曹魏感受到威脅。魏明帝時的烏桓校尉王雄派人刺殺了軻比能。因為軻比能的去世，這一次的鮮卑部落聯盟又一次解散了。不管是檀石槐時候的部落聯盟還是軻比能的部落聯盟，都是靠個人威信控制，治下的各部之間沒有從屬關係，各部大人治下分別畜牧治產、各自為政。所以即便建立了聯盟也很容易因為有威信的首領去世而很快瓦解分散。
曹魏甘露三年，鮮卑拓跋部的拓跋力微舉行祭天儀式，各部落或歸附或被討伐，拓跋鮮卑的部落聯盟再一次建立起來。拓跋力微一方面掃平盛樂、平城一帶不肯歸附的鮮卑白部以鞏固自己的根據地，一方面讓自己的長子沙漠汗去曹魏、西晉朝貢臣服和中原政權保持良好關係。這樣，拓跋鮮卑的勢力迅速壯大起來。拓跋力微一直活了一百零四歲，統部五十八年。拓跋力微至少有四個兒子：長子拓跋沙漠汗、二子拓跋悉鹿、三子拓跋祿官、四子拓跋綽。長子拓跋沙漠汗因為與中原王朝進貢及為質，所以遭至部落大人的不滿，認為他久在中原，沾染了中原習氣，不如在國諸子淳樸。最後拓跋沙漠汗被部落大人所殺。拓跋力微的其餘三個兒子都分別統繼任過部帥，但拓跋部的部帥最終傳承還是在沙漠汗的後裔中進行了下去。
沙漠汗有三個兒子：拓跋猗㐌、拓跋猗盧和拓跋弗。在祖父拓跋力微去世後，經歷過拓跋悉鹿與拓跋綽兩代短暫的部帥交替，當另一位叔父拓跋祿官任部帥時，曾經部落聯盟一分為三，與侄兒拓跋猗㐌和拓跋猗盧共治。這兩個侄兒都很能幹：拓跋猗㐌曾遠度漠北，西略諸國；拓跋猗盧則西擊匈奴、烏桓，最後又把拓跋鮮卑的分為三部的軍事聯盟再度統一起來，由自己總攝而治。拓跋猗盧築盛樂以為北都，修平城以為南都。拓跋猗盧受西晉分封為「代王」以代郡、常山郡為封地。
拓跋猗盧死後，部帥之位幾度傳承，又流轉於他的弟弟拓跋弗的兒子拓跋鬱律。拓跋弗在拓跋祿官和拓跋猗㐌以及拓跋盧共治之前也曾經一度接任部帥，只不過時間很短，一年就去世了。拓跋鬱律有兩個兒子：拓跋翳槐和拓跋什翼犍。拓跋什翼犍的母親是烏桓大族王氏。最終，部帥之位傳到了拓跋什翼犍，他建立了鮮卑拓跋部聯盟國家「代國」，這一年是東晉咸康四年。拓跋什翼犍始置百官，分掌眾職，算是對部落聯盟進行了封建化的變革。比如說設置了「長史」、「郎中令」等等。
拓跋什翼犍既進行了變革，又能和部落聯盟現狀相結合，選拔人材，與周邊國家、部落聯姻，成為強大的國家。鮮卑代國以「盛樂」為中心，拓跋什翼犍居於雲中郡盛樂宮。在原先盛樂故城的基礎上，拓跋什翼犍又在其南邊八公里之外修建了盛樂新城。盛樂故城在今天的內蒙古呼和浩特和林格爾。