南宋开禧元年(1205)入太学,绍定二年(1229)登黄朴榜进士,授江西南安军教授。后知四川嘉定,再升总领淮西军马钱粮,转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱;知平江时兼淮浙发运使。贾似道当权于朝,四处网罗人才以为己用,有意拉拢郑霖。但郑霖深恶贾似道恃世弄权,不愿与其往来,后贾似道以"司都"、"监礼部郎官"等职授郑霖,皆拒不就职。贾怀恨在心,遂诬郑霖造登台桥一事为"积粮聚众,图谋不轨"。理宗偏听不察,竟加杀害。时年七十二岁。数年后,理宗见到郑霖遗表,幡然悔悟,昭雪其冤,追赠中奉大夫龙图阁直学士,并赐葬西岙集福寺前。
岁惟丁卯,律中无射。天寒夜长,风气萧索,鸿雁于征,草木黄落。陶子将辞逆旅之馆,永归于本宅。故人凄其相悲,同祖行于今夕。羞以嘉蔬,荐以清酌。候颜已冥,聆音愈漠。呜呼哀哉!
茫茫大块,悠悠高旻,是生万物,余得为人。自余为人,逢运之贫,箪瓢屡罄,絺绤冬陈。含欢谷汲,行歌负薪,翳翳柴门,事我宵晨,春秋代谢,有务中园,载耘载籽,乃育乃繁。欣以素牍,和以七弦。冬曝其日,夏濯其泉。勤靡余劳,心有常闲。乐天委分,以至百年。
惟此百年,夫人爱之,惧彼无成,愒日惜时。存为世珍,殁亦见思。嗟我独迈,曾是异兹。宠非己荣,涅岂吾缁?捽兀穷庐,酣饮赋诗。识运知命,畴能罔眷。余今斯化,可以无恨。寿涉百龄,身慕肥遁,从老得终,奚所复恋!
寒暑愈迈,亡既异存,外姻晨来,良友宵奔,葬之中野,以安其魂。窅窅我行,萧萧墓门,奢耻宋臣,俭笑王孙,廓兮已灭,慨焉已遐,不封不树,日月遂过。匪贵前誉,孰重后歌?人生实难,死如之何?鸣呼哀哉!