孙恩起兵，消耗了东晋朝廷兵力，造成京防空虚，这给盘踞荆州、虎视三吴、伺机而动的桓玄以可乘之机。元兴元年（402年），桓玄举兵东下，攻入建康，杀司马元显，以其堂兄桓修代刘牢之收掌兵权。刘牢之惧祸而逃，后自缢身亡。刘裕审时度势，暂投桓玄以行韬晦。由于刘裕屡建军功，在北府旧部中颇有声望，所以桓玄也不敢小视他。次年12月，桓玄篡位，更对刘裕款待备至，恩宠有加。桓玄的妻子刘氏颇能识人，她多次对桓玄说：“刘裕行止有龙势虎志，看问题不同凡响，不会久居人下，宜尽早除之。”桓玄却说：“我欲荡平中原，非此人不行，怎好杀他？等关陇平定，再作计议。”正在桓玄盘算之际，刘裕也在暗中图谋桓玄。他联合孙无终、刘毅等人，约定于广陵、历阳、京口、建康四处同时起兵讨伐桓玄。元兴三年（404年）2月，刘裕以打猎为名，聚集百余人首先在京口发难，杀死桓修。刘毅也于广陵得手，诛桓修之弟桓弘。接着，众人推刘裕为盟主，传檄四方，各地纷起响应。桓玄见情势不妙，挟持晋安帝，轻舟逃逸江陵。3月，刘裕率兵进入建康，坐镇京师，指挥各路人马乘胜西进。经过一个多月的激战，桓玄被逼逃往西川，被益州都护冯迁杀死。次年3月，刘裕迎安帝复位。为奖励刘裕再造晋室之功，安帝加封刘裕为侍中、车骑将军、都督中外诸军事，掌握朝政。