时熙、丰法度，一切厘正，清臣固争之，罢为资政殿学士、知河阳，徙河南、永兴。召为吏部尚书，给事中姚勔驳之，改知真定府。班行有王宗正者，致憾于故帅，使其妻诣使者，告前后馈饷过制，囚系数百人。清臣至，立奏解其狱，而窜宗正。帝亲政，拜中书侍郎，勔复驳之，不听。
绍圣元年，廷试进士，清臣发策曰："今复词赋之选而士不知劝，罢常平之官而农不加富，可差可募之说纷而役法病，或东或北之论异而河患滋，赐土以柔远也而羌夷之患未弭，弛利以便民也而商贾之路不通。夫可则因，否则革，惟当之为贵，圣人亦何有必焉。"主意皆绌元祐之政，策言悟其指，于是绍述之论大兴，国是遂变。
范纯仁去位，清臣独颛中书，亟复青苗、免役法，除诸路提举官。觊为相，顾苏辙轧己，乃擿辙尝以汉武比先帝激上怒，辙罢。时召章惇未至，清臣心益觊之。已而惇入相，复与为异。惇既逐诸臣，并籍文彦博、吕公著以下三十人，将悉窜岭表。清臣曰："更先帝法度，不为无过，然皆累朝元老，若从惇言，必大骇物听。"帝曰："是岂无中道耶？合揭榜朝堂，置余人不问。"鄜延路金明砦主将张舆战没，惇怒，议尽戮全军四千人。清臣曰："将死亦多端，或先登争利，或轻身入敌。今悉诛吏士，异时亡将必举军降虏矣。"于是但诛牙兵十六辈。
上幸楚王第，有狂妇人遮道叫呼，告清臣谋反，属吏捕治，本澶州娼而为清臣姑子田氏外妇者。清臣不能引去，用御史言，以大学士知河南，寻落职知真定府。
初，蔡确子渭上书诉父冤，造奇谮以陷刘挚罪，清臣心知其诬，弗之省，坐夺学士。徽宗立，入为门下侍郎。仆射韩忠彦与之有连，惟其言是听，出范纯礼、张舜民，不使吕希纯、刘安世入朝，皆其谋也。寻为曾布所陷，出知大名府而卒，年七十一。赠金紫光禄大夫。
清臣蚤以词藻受知神宗，建大理寺，筑都城，皆命作记，简重宏放，文体各成一家。为人宽洪，不忮害。尝为舒亶所劾，及在尚书，亶以赃抵罪，独申救之，曰："亶信亡状，然谓之赃则不可。"再为姚勔所驳，当绍圣议贬，或激使甘心，清臣为之言曰："勔以议事，所见或不同，岂应以臣故而加重？"帝悟，薄勔罪。起身穷约，以俭自持，至富贵不改。居官奉法，毋敢挠以私。然志在利禄，不公于谋国，一意欲取宰相，故操持悖谬，竟不如愿以死。后朝议以复孟后罪，追贬武安军节度副使，再贬雷州司户参军。