桓車騎在荊州，張玄為侍中，使至江陵，路經陽岐村，俄見壹人，持半小籠生魚，徑來造船雲：“有魚，欲寄作膾。”張乃維舟而納之。問其姓字，稱是劉遺民。張素聞其名，大相忻待。劉既知張銜命，問：“謝安、王文度並佳不？”張甚欲話言，劉了無停意。既進膾，便去，雲：“向得此魚，觀君船上當有膾具，是故來耳。”於是便去。張乃追至劉家，為設酒，殊不清旨。張高其人，不得已而飲之。方共對飲，劉便先起，雲：“今正伐荻，不宜久廢。”張亦無以留之。

　　桓玄問劉太常曰：“我何如謝太傅？”劉答曰：“公高，太傅深。”又曰：“何如賢舅子敬？”答曰：“樝、梨、橘、柚，各有其美。”

　　撫軍問孫興公：“劉真長何如？”曰：“清蔚簡令。”“王仲祖何如？”曰：“溫潤恬和。”“桓溫何如？”曰：“高爽邁出。”“謝仁祖何如？”曰：“清易令達。”“阮思曠何如？”曰：“弘潤通長。”“袁羊何如？”曰：“洮洮清便。”“殷洪遠何如？”曰：“遠有致思。”“卿自謂何如？”曰：“下官才能所經，悉不如諸賢；至於斟酌時宜，籠罩當世，亦多所不及。然以不才，時復托懷玄勝，遠詠老、莊，蕭條高寄，不與時務經懷，自謂此心無所與讓也。”