郑从谠，初授秘书省校书郎，历任拾遗、补阙、尚书郎、知制诰，受到宰相令狐绹、魏扶的赞誉，累迁至中书舍人。后担任礼部侍郎，主持贡举考试，又任刑部侍郎、吏部侍郎，并主持典选，他处事公允，选拔官员得当。唐懿宗欲任命郑从谠为宰相，但他却因拒绝请托，得罪了权臣，只得将他外放，任命他为检校礼部尚书、太原尹、北都留守、御史大夫、上柱国、河东节度管内观察处置等使，赐爵荥阳县男。

郑从谠请求回京，但未获批准，被改任为检校兵部尚书、汴州刺史、御史大夫、宣武军节度观察等使。他政绩突出，又遭到当权者的嫉恨，改任为广州刺史、岭南节度使，到达岭南，他见岭南常受南诏侵扰，而朝廷因要征讨庞勋之乱，无暇顾及，便招募夷獠土豪，委以重任，让他们保卫城池，抵御外侮。当时，岭南五管虽常有郡县被叛军攻陷，但交州、广州一直非常安定。

唐僖宗继位，郑从谠不愿久居岭南，便上表朝廷，请求到东都洛阳担任散职，被征拜回朝，授为刑部尚书，后又任吏部尚书。唐僖宗拜郑从谠为宰相，授他为中书侍郎、兼礼部尚书、同中书门下平章事，又改任门下侍郞，兼任兵部尚书。

当时，沙陀强盛，李国昌、李克用父子占据云朔等州，屡次南侵，而河东军内部也矛盾重重，兵变频发。窦濣、李侃、李蔚相继以重臣出镇，但都难以遏制。河东节度使康传圭死于兵变。唐僖宗欲让宰相督镇河东，便任命郑从谠为检校司空、太原尹、北都留守、河东节度使、行营招讨使，并保留其同平章事之职，允许他自择参佐。

郑从谠到河东后，征辟大批名士，任命王调为副使、刘崇龟为节度判官、赵崇为观察判官、刘崇鲁为推官、李渥为掌书记、崔泽为支使，组成强大的幕僚团，被时人称为“小朝廷”。他虽外表温和，但却多谋善断，诛杀谋划兵变者，安抚余众。对于参加兵变的都虞候张彦球，郑从谠认为其忠勇可用，不但不加治罪，还将兵权交付给他。

黄巢起义军进犯长安，唐僖宗出逃，并传诏给郑从谠，让他将兵马交付北面招讨副使诸葛爽，南下勤王。郑从谠又被加封为侍中、行营招讨使，他接诏后涕泗不止，当即命牙将论安、后院军使朱玫统领五千兵马，随诸葛爽入关平叛。

李克用乘河东空虚，突然率军掩至太原，自称奉诏入关，郑从谠知道他不怀好意，遂闭城戒备，并登上城楼，勉励李克用，让他报国建功。李克用词穷而退，暗中却指使部将大肆劫掠。郑从谠命部将王蟾、薛威出击，在契苾部援军的帮助下，将沙陀军击败。不久，论安擅自撤军而回，郑从谠大怒，集合各部将校，当众斩杀论安。

唐僖宗命振武节度使契苾璋征讨李克用，并让郑从谠协助作战，朝廷赦免李克用之罪，让他出兵征讨黄巢，立功赎罪。李克用命大军绕道岚州、石州一带，沿黄河南下，自己则率数百骑前往太原与郑从谠话别，郑从谠则赠以名马、器币。

李克用收复长安，被授为河东节度使，接替郑从谠。郑从谠南返后，因道路难行，在绛州停留数月，又被召赴行在，授为司空，后改司徒。唐昭宗将郑从谠罢为太子太保，让他回府养病，不久郑从谠病逝，赐谥“文忠”。