及武帝即位，封南昌县公，位司空、录尚书事、扬州刺史。羡之起自布衣，又无术学，直以局度，一旦居廊庙，朝野推服，咸谓有宰臣之望。沉密寡言，不以忧喜见色。颇工弈棋，观戏常若未解，当世倍以此推之。傅亮、蔡郭尝言徐公晓万事，安异同。尝与傅亮、谢晦宴聚。亮、晦才学辩博，羡之风度详整，时然后言。郑鲜之叹曰："观徐、傅言论，不复学问为长。"武帝不豫，加班剑三十人。宫车晏驾，与中书令傅亮、领军将军谢晦、镇北将军檀道济同被顾命。少帝诏羡之、亮率众宫内月一决狱。帝后失德，羡之等将谋废立，而庐陵王义真多过，不任四海。乃先废义真，然后废帝。时谢晦为领军，以府舍内屋败应修理，悉移家人出宅，聚将士于府内。