汉族百姓纷纷响应。这时留在朝廷坐镇的尚书左仆射刘穆之病故，刘裕怕政权旁落他人之手，便留次子刘义真镇长安，王修、王镇恶等率兵万余辅佐，自己仓促返回建康。长安留守军内讧，夏主赫连勃勃乘机夺取关中。刘义真虽被迫撤出长安，但自潼关以东、黄河以南直至青州已为南朝版图，江淮流域得到保障，这是祖逖、桓温、谢安经营百年所未能达到的。刘裕在朝廷中声望也达到极点，进而实现禅代，建立南朝刘宋。
纵观东晋王朝，虽曾屡屡兴师北伐，然北伐之军每每功败垂成，始终未能恢复中原、完成一统。其原因是多方面的，首先是朝廷多方牵制。东晋王室害怕北伐将帅功高难制，故对他们多方限制、监督，不肯充分信任与支援。祖逖之北伐曾受晋元帝之掣肘。桓温反对「永结根于南垂，废神州于龙漠」的苟安态度，请求还都洛阳、「一切北徙」，但上表至十数次均不得批准。其次，东晋的世族又多苟且偷安。当时皇室和南来之北方世族均把江南当作人间乐土，醉生梦死，贪图苟安，胸无大志。如有的大臣认为「田宅不可复售，舟车无从而得」，还都洛阳系「舍安乐之国，适习乱之乡」。江南本地的望族受朝廷重用，也不希望皇室北还。南北世族对寒族出身的将领更是多方排斥、处处牵制。
北伐失利的另一原因是内乱频连不断。东晋偏安江南，大权多握重臣悍将之手，致内乱频生，如王敦之乱、苏峻之乱以及桓玄篡立等等，影响了北伐的根本大计。此外，北伐的将帅又每多心怀叵测。北伐将领之中，固不乏忠义之士，如祖逖等，但也有的像刘裕等人，具有政治野心，每区区权衡个人之利害得失，未能把北伐坚持到底。除了上述西晋方面的因素，北伐失败的重要原因在于当时北方胡人武功颇盛。五胡之政权虽呈割据纷争之态，但整个北方均为其所占，势力十分庞大。加以胡人多勇敢骠悍，一时很难制服之。