元显所容，因此打算借桓玄之手除掉元显，然后再找机会灭桓玄。故此刻他不愿与桓玄交手。恰好桓玄派了牢之的本家舅舅何穆来说降，牢之之子刘敬宣、外甥何无忌和参军刘裕等人反对，但刘牢之主意已定，遂派刘敬宣去向桓玄请降。桓玄虽然打定主意要灭掉牢之，表面上却不露声色。不仅盛宴招待刘敬宣，还请他一起欣赏自己收藏的名画，又请刘敬宣当自己的谘议参军，十分亲热，刘敬宣也变了主意，于是收降刘牢之顺利办成。

    解决了司马元显手下惟一拥有强兵可以对抗的刘牢之以后，桓玄如入无人之境，长驱直入，进到都城之下。元显赶紧退往宫中，桓玄命部下提刀边追边喊：“放下武器！”元显兵卒立刻纷纷溃逃，元显亦被活捉。桓玄大摇大摆进入建康，被任为都督中外诸军事、丞相、录尚书事、扬州牧、领徐、荆、江三州刺史，假黄钺。桓玄大权独揽后，杀了元显、尚之等人，又把道子发落到了安成郡。

    桓玄的权位越高，野心也越大。新的目标乃是篡位称帝。实现这一野心的惟一威胁还是掌握北府兵的刘牢之，他必须夺了牢之的兵权。于是，桓玄任刘牢之为会稽内史。牢之知道兵权解除将大祸临头，马上与儿子刘敬宣商议对策，敬宣主张立刻发兵袭击桓玄，牢之犹豫不决，去问刘裕，刘裕说：“当初将军以劲卒数万而望风降服，如今桓玄刚刚得志，威震天下，人心归附于他，你怎么打得过他呢？如你要打，我也只有回京口去当百姓了。”牢之知刘裕不赞成，又召集僚属商议，参军刘袭站起来说：“天下最不能干的事就是犯上作乱，将军往年反王恭，前些时反元显，今又要反桓公，一人三反，还能在世上做人吗！”说完，头也不回，大步走了出去，其他佐吏也多散走。牢之见人心已散，害怕起来，忙派敬宣去京口把家小接来，约期至而未归，牢之以为事情败露，敬宣已被桓玄所杀，想想往后日子难过，就找了根绳子，往脖颈上一套，两脚一蹬，自杀了。不久敬宣就回来了，见此情景，只好逃走。

    桓玄灭了刘牢之后，又杀了北府将领竺谦之、竺朗之、刘袭、孙无终等，并提拔一些北府后起将领如刘裕等作为他的爪牙，以使北府兵效忠自己。至此，桓玄觉得再也无人能奈何于他，便开始为所欲为。刚进建康的时候，他一度做了些罢黜奸佞、拔擢俊贤的事，曾使建康士民满怀希望，以为可以过一段安定日子。没想到桓玄立足稍稳，便原形毕露，奢豪纵逸，政令无常，根本不把安帝放在眼里，甚至克扣安帝的车马衣食，使安帝几乎挨饿受冻。因此，朝野内外很快就对桓玄大失所望。

    到了九月，在亲信大臣的劝进之下，桓玄又让安帝册命自己为相国、楚王，加九锡。至此，他离称帝已是只差一步了。

    到十一月，桓玄不光用上了天子的礼乐，而且将自己的老婆由王妃改称王后，世子改称太子。还让亲信起草了禅位诏书，然后逼着安帝抄写清楚。一切准备就绪之后，桓玄遂于十二月正式即位称帝，建国号为楚，改元永始。封晋安帝为平固王，迁往浔阳。

    当了皇帝以后，桓玄的表现越发不得人心。他学前人的样子，亲临听讼观断案，却不分罪行轻重，一律释放。出行时，碰到拦住乘舆行乞的人，还时常给点衣食，以示新皇帝恩惠。他对奏事官吏特别苛刻，如果发现奏章中有一个字不合字体或语辞错误，必加惩罚，以示新皇帝聪明。他小事如此细致，大事却一点不抓，也不知道该如何处理政务，致使许多重要奏章堆积在桌上。他又特爱游猎，有时竟一日数次外出。他还别出心裁，迁居东宫，为了修缮东宫，又大兴土木，而且督迫严促。他的种种作为，使得朝廷内外怨声载道，反对的人越来越多。

    刘裕早就想讨灭桓玄，见时机成熟，便与弟刘道规及亲信骨干刘毅、何无忌、王元德、王仲德、孟昶、檀凭之、诸葛长民等密谋起兵。