南宋开禧元年(1205)入太学,绍定二年(1229)登黄朴榜进士,授江西南安军教授。后知四川嘉定,再升总领淮西军马钱粮,转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱;知平江时兼淮浙发运使。贾似道当权于朝,四处网罗人才以为己用,有意拉拢郑霖。但郑霖深恶贾似道恃世弄权,不愿与其往来,后贾似道以"司都"、"监礼部郎官"等职授郑霖,皆拒不就职。贾怀恨在心,遂诬郑霖造登台桥一事为"积粮聚众,图谋不轨"。理宗偏听不察,竟加杀害。时年七十二岁。数年后,理宗见到郑霖遗表,幡然悔悟,昭雪其冤,追赠中奉大夫龙图阁直学士,并赐葬西岙集福寺前。
往常时为功名惹是非,如今对山水忘名利;往常时趁鸡声赴早朝,如今近晌午犹然睡。往常时秉笏立丹墀,如今把菊向东离;往常时俯仰承极贵,如今逍遥谒故知;往常时狂痴,险犯着笞杖徒流罪;如今便宜,课会风花雪月题。云来山更佳,云去山如画。山因云晦明,云共山高下。倚仗立云沙,回首见山家,野鹿眠山草,山猿戏野花。云霞,我爱山无价。看时行踏,云山也爱咱。抖擞了元亮尘,分付了苏卿印;喜西风范蠡舟,任雪满潘安鬓。
乞得自由身,且作太平民;酒吸华峰月,吟泺水春。而今,识破东华梦;红裙,休歌南浦云。三十年一梦惊,财与气消磨尽。把当年花月心,都变做了今日山林兴。
早是不能行,那更鬓星星。镜里常嗟叹,人前强打撑。歌声,积渐的无心听;多情,你频来待怎生?自高悬神武冠,身无事心无患。对风花雪月吟,有笔砚琴书伴。
梦境儿也清安,俗势利不相关,由他傀儡棚头闹,且向昆仑顶上看。云山,隔断红尘岸;游观,壶中天地宽。
也不学严子陵七里滩,也不学姜太公磻溪岸,也不学贺知章乞监湖,也不学柳子厚游南间。俺住云水屋三间,风月竹千竿。一任傀儡棚中闹,且向昆仑顶上看。身安,倒大来无忧患;游观,壶中天地宽。