南宋开禧元年(1205)入太学,绍定二年(1229)登黄朴榜进士,授江西南安军教授。后知四川嘉定,再升总领淮西军马钱粮,转大理司直枢密院编修。此后曾改知赣州、苏州、安庆、平江等地。知安庆时兼任淮浙提刑点浙西刑狱;知平江时兼淮浙发运使。贾似道当权于朝,四处网罗人才以为己用,有意拉拢郑霖。但郑霖深恶贾似道恃世弄权,不愿与其往来,后贾似道以"司都"、"监礼部郎官"等职授郑霖,皆拒不就职。贾怀恨在心,遂诬郑霖造登台桥一事为"积粮聚众,图谋不轨"。理宗偏听不察,竟加杀害。时年七十二岁。数年后,理宗见到郑霖遗表,幡然悔悟,昭雪其冤,追赠中奉大夫龙图阁直学士,并赐葬西岙集福寺前。
阳山,天下之穷处也。陆有丘陵之险,虎豹之虞。江流悍急,横波之石,廉利侔剑戟,舟上下失势,破碎沦溺者,往往有之。县廓无居民,官无丞尉,夹江荒茅篁竹之间,小吏十余家,皆鸟言夷面。始至,言语不通,画地为字,然后可告以出租赋,奉期约。是以宾客游从之士,无所为而至。愈待罪于斯,且半岁矣。
有区生者,誓言相好,自南海挐舟而来。升自宾阶,仪观甚伟,坐与之语,文义卓然。庄周云:“逃空虚者,闻人足音跫然而喜矣!”况如斯人者,岂易得哉!入吾室,闻《诗》、《书》仁义之说,欣然喜,若有志于其间也。与之翳嘉林,坐石矶,投竿而渔,陶然以乐,若能遗外声利,而不厌乎贫贱也。岁之初吉,归拜其亲,酒壶既倾,序以识别。